يطرح طرح وكلاء الذكاء الاصطناعي المستقلين فرصًا كبيرة للمؤسسات.
ومع ذلك، بدون الأسس والنهج الصحيح، تكون المخاطر كبيرة عندما لا تكون هناك طريقة لضمان اتخاذ الوكلاء قرارات صحيحة وموثوقة.
يستمر المقال أدناه
قائد ممارسات الذكاء الاصطناعي العالمية في Informatica من Salesforce.
عندما تكون جودة البيانات رديئة، سيتخذ الوكيل قرارات سيئة، ولا يوجد إنسان لتحديد الخطأ وتصحيحه.
والخبر السار هو أن هناك استراتيجيات البيانات التي يمكن أن تخفف من المخاطر.
وكلاء الفوضى
في نظام التعلم الآلي التقليدي (ML) الذي يستخدم الأتمتة، يمكن أن تؤدي مشكلات البيانات إلى تقليل الدقة. ولكن في النظام البيئي الفاعل، يمكن أن يكون لتصرفات أحد الوكلاء تأثيرات كارثية على المصب.
في أسوأ الأحوال، يمكن أن يتسبب العميل المارق في سلسلة من البيانات، حيث يؤدي خطأ واحد إلى إثارة سلسلة من ردود الفعل للمخرجات المعيبة التي يتم تخزينها، ومعاملتها على أنها حقيقة، ثم إعادة استخدامها.
في المؤسسات الكبيرة، لا تبدو حالات الفشل هذه مثيرة في البداية. كل شيء يبدو طبيعيا.
حتى يدرك شخص ما أن النظام كان يتصرف في الإطار الخاطئ لأسابيع. بحلول ذلك الوقت، يكون قد فات الأوان ويتصرف العملاء الآخرون بناءً على الأخطاء التي ارتكبوها في البداية.
الكذبة التي يتم الهمس بها في النظام تتحول إلى أمر يصرخ من الجانب الآخر.
جودة البيانات ضرورية، ولكنها ليست كافية. يحتاج الوكلاء إلى بيانات جودة القرار للتخفيف من مخاطر النتائج السيئة
البيانات مقابل الواقع
نظرًا لدوري كقائد بيانات في مجال الذكاء الاصطناعي أعمل مع مؤسسات عالمية، كنت أفكر في مشكلة رئيسية تتعلق بالبيانات خلال رحلتي الأخيرة إلى لندن. توقفت لتناول طبق بريطاني شهير، وعندما طلبت بعض رقائق البطاطس، كنت واثقًا من أنني لن أحصل على طبق مليء بالسيليكون.
البيانات التي جمعتها عن وضعي الشخصي والسياق – أثناء جلوسي في أحد المطاعم في عاصمة المملكة المتحدة – جعلتني واثقًا من أن النادل سيحضر لي بعض البطاطس المطبوخة المقدمة بجانب السمك، وليس حفنة من وحدات المعالجة المركزية. أخبرني تحليل البيانات المحلية بنوع الطعام الذي يجب أن أتوقعه. إذا كنت قد أصدرت حكمًا خاطئًا وجمعت البيانات أو فسرتها بشكل غير صحيح، لكان الأمر بمثابة عشاء مخيب للآمال.
ومؤخراً، قدم أحد المتاجر الكبرى في نيوزيلندا مثالاً ممتازاً آخر – ومضحكاً – للتحدي المتمثل في تفسير البيانات من دون توفير كافة القطع الصحيحة. لقد أنشأت أداة إنشاء وصفات تعمل بالذكاء الاصطناعي لمساعدة العملاء على استخدام بقايا طعامهم، ودعوة الأشخاص لكتابة المكونات المتوفرة لديهم وجعل الروبوت يقوم بإنشاء الوصفات.
وحتمًا، بدأ الناس يطلبون منه إعداد أطباق تحتوي على مواد مبيضة وقاتل النمل ومكونات خطيرة أخرى، لذلك بدأ الذكاء الاصطناعي في توليد اقتراحات أقل من جميلة مثل شطائر الغراء والخبز المحمص الفرنسي بنكهة حساء الميثانول.
كانت المكونات كاملة والتعليمات صحيحة، لكن الذكاء الاصطناعي لم يفهم سوى بنية الوصفة – وليس الغرض أو القصد من استخدام المكونات لصنع طعام مغذٍ، وليس ضار.
تخيل الآن لو أن الذكاء الاصطناعي كان فعالاً ومكلفًا، على سبيل المثال، بإرشاد مصنع لتجميع المواد الغذائية لإنشاء وصفات وصناديق مكونات لإرسالها إلى العملاء. القصة أعلاه كانت مضحكة – فالسيناريو الكابوس المتمثل في إرسال السم إلى العملاء عبر البريد ليس سوى شيء آخر.
مصدر الحقيقة للوكلاء
تلك الحكاية هي درس واضح. إذا لم تقم المؤسسات بإنشاء أساس موثوق به لبياناتها، فإن الانتقال إلى الذكاء الاصطناعي الوكيل يعد أمرًا محفوفًا بالمخاطر للغاية. لا يظهر هذا بطريقة سحرية عند نشر الوكلاء – فهو يأتي من الإدارة والبيانات الوصفية والنسب والفهم ليس فقط لما تقوله البيانات، ولكن من أين أتت ولماذا وجدت.
وكيف يجب أن تبدو تلك البيانات؟ ويجب أن تكون موثوقة وجديرة بالثقة، فضلاً عن كونها شاملة وحديثة لاتخاذ القرارات الكاملة في الوقت المناسب. ويجب أن تكون مسؤولة أيضًا – مما يعني أن الوكلاء يمكنهم التصرف وفقًا لها بأمان – وأن يكونوا آمنين لمنع سوء الاستخدام.
وأخيرا، يجب مراعاة السياق في كل مرحلة. إنها الخلطة السرية التي تربط كل جوانب الإدارة الجيدة للبيانات معًا.
قرارات كبيرة بشأن البيانات
أثناء طرح أدوات الذكاء الاصطناعي المستقلة، تكتشف المؤسسات أن الدقة وحدها ليست كافية. الأنظمة الفاعلة لا تتنبأ فحسب، بل إنها تعمل، وتتفاقم هذه الأفعال. وهذا يعني أن السياق المفقود أكثر خطورة بكثير مما كان عليه في الأجيال السابقة من الذكاء الاصطناعي.
إن المؤسسات التي تنجح هي تلك التي تتعامل مع الحوكمة والبيانات الوصفية والنسب ليس كمتطلبات مزعجة من فرق الامتثال لديها، ولكن كأساس قوي لعملائها. عندما تنجرف البيانات بعيدًا عن الحقيقة، فإن هذه الحركة لا تتوقف، بل إنها تزداد سوءًا. إن بناء “طبقة حقيقة” قوية سيساعد على وقف ذلك ومنع الأنظمة من الفشل في المستقبل.
لن تعرف العديد من فرق إدارة تكنولوجيا المعلومات مكان وجود هذه الطبقة. ربما سيشيرون بشكل غامض إلى أحد المستودعات. لكنهم بحاجة إلى معرفة أين يمكن العثور على الحقيقة التي يعتمد عليها عملاؤهم، لأنه إذا لم تكن موجودة عند المنبع، فإن كل شيء آخر سيكون في خطر.
في الوقت الحالي، تبدو هذه مشكلة صغيرة نسبيًا. ولكن مع تولي العملاء المزيد والمزيد من الأدوار الحاسمة، سيصبح هذا الدور كبيرًا – لذا فإن الحصول على الأساسيات الصحيحة اليوم ليس مجرد قرار حكيم، ولكنه تحوط لا مفر منه ضد الفوضى المستقبلية.
تحقق من أفضل أدوات ترحيل البيانات هنا.
التعليقات