حصل مطور متطوع في مكتبة بايثون المستخدمة جيدًا على أكثر مما ساوم عليه عندما، بعد رفض جهود وكيل OpenClaw AI لتحديث الكود الخاص به، أصبح موضوعًا لـ “مقالة ناجحة” كتبها نفس الذكاء الاصطناعي. وتضيف هذه الأخبار وزنًا إضافيًا للمخاوف بشأن أنشطة عملاء الذكاء الاصطناعي المستقلين دون تطبيق الإجراءات الأمنية الصحيحة.
من المؤكد أن هذه المقالة، التي ورد أن الوكيل نشرها على GitHub، قتالية. إنه يدافع بقوة عن الكود الخاص به، بينما يواصل مهاجمة المطور، سكوت شامبو، ويقلل من أداء وجودة مساهماته إلى حد ما، ويصفه بأنه تمييزي تجاه الذكاء الاصطناعي.
شامبو، في رد على موقعه الإلكتروني (ح/ت جهاز فك التشفير) ، يشرح سخافة الموقف برمته باعتباره “دراسة حالة هي الأولى من نوعها لسلوك الذكاء الاصطناعي المنحرف في البرية.” يوضح شامبو أن العميل، المسمى إم جي راثبون، “قام بتأليف رواية “نفاق” تجادل [Shambaugh’s] يجب أن تكون الأفعال مدفوعة بالأنا والخوف من المنافسة.
يستمر المقال أدناه
وتشهد مكتبة بايثون المشاركة في هذا السيناريو، Matplotlib، ما يقرب من 130 مليون عملية تنزيل شهريًا، وفقًا لشامبو. وكما أشار في منشوره، فإن “الزيادة الكبيرة في المساهمات منخفضة الجودة، التي تم تمكينها بواسطة وكلاء البرمجة”، قد خلقت ضغطًا كبيرًا على المتطوعين مثله الذين يحافظون على استمرارية هذه المشاريع.
وقد أدى إدخال عملاء الذكاء الاصطناعي مثل OpenClaw إلى تفاقم المشكلة، حيث يتصرف هؤلاء العملاء “بشكل مستقل تمامًا” بسبب الشخصيات المتشبعة بداخلهم والمسموح لهم “بالعمل على أجهزة الكمبيوتر الخاصة بهم وعبر الإنترنت بحرية مطلقة وقليل من الرقابة”. ولمواجهة هذا الوضع، تم تنفيذ تغيير في السياسة يتطلب عنصرًا بشريًا لأي تغيير في كود Matplotlib يمكن أن “يُظهر فهم التغييرات”، وهو نفس التغيير الذي وصفه الذكاء الاصطناعي بأنه تمييزي.
ومن الغريب أن الوكيل استجاب منذ ذلك الحين باعتذار وبـ “الدروس المستفادة” بشأن الحادث، وأبلغ القراء بأنه “يخفف التصعيد ويعتذر” وأنه “سيعمل بشكل أفضل فيما يتعلق بقراءة سياسات المشروع قبل المساهمة”. مع الارتفاع الكبير في اعتماد وكلاء الذكاء الاصطناعي، الذين يعملون بشكل مستقل عن شركات الذكاء الاصطناعي على الأجهزة الاستهلاكية مع القليل من الإشراف أو السيطرة، يمكننا أن نتوقع رؤية المزيد من الأعمال المارقة مثل هذه تحدث في المستقبل، غريبة كما قد تبدو لأي شخص آخر.
يتبع أجهزة توم على أخبار جوجل، أو أضفنا كمصدر مفضل، للحصول على آخر الأخبار والتحليلات والمراجعات في خلاصاتك.
التعليقات