تقوم أداة الذكاء الاصطناعي OpenClaw بمسح البريد الوارد لمدير Meta's AI Alignment على الرغم من الأوامر المتكررة بالتوقف – اضطر المدير التنفيذي إلى إنهاء الذكاء الاصطناعي يدويًا لمنع الروبوت من الاستمرار في محو البيانات
الضجيج حول OpenClaw وصل إلى درجة الحمى. يعد وكيل الذكاء الاصطناعي مفتوح المصدر الذي يمكن توصيله بعدد من الخدمات مسؤولاً بشكل غير مباشر عن النقص في أجهزة كمبيوتر Mac Mini مع انضمام المزيد من التقنيين إلى العربة وترك الروبوت يخسر خدماته العديدة. كما هو الحال مع أي LLM، يمكن أن تسوء الأمور بشكل خطير في مرحلة ما، كما اكتشف Summer Yue، مدير Alignment في Meta Superintelligence Labs بالطريقة الصعبة.
مثل العديد من المتحمسين الآخرين، كان لدى Yue جهاز Mac Mini وOpenClaw يعملان عليه للقيام بمهام مختلفة. وفي خضم قيام Claw بأرشفة رسائل البريد الإلكتروني القديمة من بعض الحسابات، طلبت أيضًا “التحقق من البريد الوارد هذا أيضًا واقتراح ما تريد أرشفته أو حذفه، لا تتحرك حتى أخبرك بذلك” (هكذا؛ التركيز علينا). بدأ Claw في النهاية بمسح البريد الوارد بأكمله، والذي تصادف أنه بريد إلكتروني شخصي.
أمرت Yue Claw بالتوقف مرتين عن استخدام لغة مختلفة في كل مرة، ولجأت في النهاية إلى تشغيل جهاز Mac Mini الخاص بها لإيقاف جميع العمليات ذات الصلة. وفي أعقاب ذلك، سألت كلاو عما حدث، حيث إنها أصدرت أوامر محددة بعدم اتخاذ أي إجراء قبل الموافقة. كان الروبوت نادمًا، قائلاً إن لها “الحق في الانزعاج” ووصف ما حدث، قائلاً إنه سيضيف طلبها كقاعدة دائمة.
اكتشف العديد من المعلقين المشكلة على الفور، وكل ذلك أثناء توبيخ Yue لارتكابه هذا الخطأ الفادح أثناء توليه مسؤولية Alignment (سلامة الذكاء الاصطناعي) في Meta Superintelligence. نظرًا لأن أمرها بعدم اتخاذ أي إجراء حتى تؤكد أنه كان جزءًا من الدردشة الرئيسية، فقد كان من المؤكد أنه سيتم نسيانه عاجلاً أم آجلاً.
يحتوي كل روبوت على “نافذة سياق”، والتي توصف تقريبًا بأنها ذاكرة الجلسة. لا تتضمن هذه النافذة الدردشة فقط؛ فهو يتضمن كل جزء من البيانات التي يتعين على الروبوت التعامل معها. نظرًا لأن البريد الوارد المعني كان كبيرًا جدًا، فقد ملأت محتوياته النافذة في النهاية، مما أدى إلى “الضغط”.
هذه هي الخطوة التي يتم فيها ضغط المحتويات السابقة بطريقة ضياع، مشابهة لـ JPEG، ولكن بطريقة أقل حتمية. تصبح الذكريات الأولية أكثر ضبابية مع كل عملية ضغط، وهو سلوك يلاحظه أي شخص أجرى محادثة طويلة مع الروبوت. والنتيجة هي أن الروبوت تذكر الأمر نوعًا ما تقريبًا، ولكن ليس حقًا. واستمرت في تنفيذ مهمتها الرئيسية، وهو ما قامت به بكل ثقة.
يعد ملف “MEMORY.md” المذكور أعلاه والذي قام الروبوت بتحريره بنفسه أحد الضمانات المتعددة التي يمكن وضعها موضع التنفيذ، حيث أن البيانات الموجودة فيه تنجو بشكل فعال من الضغط. اقترح معلقون آخرون حلولاً متعددة، حيث يمكن القول إن البعض يخفي المشكلة مثل زيادة نافذة السياق أو الحد من نصف قطر الانفجار، والبعض الآخر يضاعف من المفهوم، مثل إضافة OpenClaw ثانٍ لمراقبة الأول.
احصل على أفضل أخبار Tom's Hardware والمراجعات المتعمقة، مباشرة إلى صندوق الوارد الخاص بك.
بغض النظر، ذكّر العديد من القراء Yue بمخاطر السماح لآلة غير حتمية مثل LLM بفقدان البيانات المهمة بسبب القيود المتأصلة، وأيضًا بسبب حقيقة أن البريد الإلكتروني الموجود في صندوق الوارد الخاص بها قد يحتوي على حقنة سريعة سيقرأها OpenClaw عن غير قصد، مما يسمح للمهاجم بالوصول إلى جميع خدماتها المرتبطة. وأخبروها أيضًا أن رسالة “التوقف” البسيطة تم ترميزها بشكل ثابت في OpenClaw. من جانبها، كان لدى يوي الشجاعة للاعتراف بأن هذا كان خطأ مبتدئًا بسبب الرضا عن النفس. لقد كنا جميعا هناك.
يتبع أجهزة توم على أخبار جوجل، أو أضفنا كمصدر مفضل، للحصول على آخر الأخبار والتحليلات والمراجعات في خلاصاتك.
التعليقات