أراد أحد المسؤولين التنفيذيين في شركة Meta المساعدة في تنظيف صندوق الوارد الخاص بها واعتقد أن وكيل الذكاء الاصطناعي الآلي الجديد OpenClaw سيكون مجرد خدعة. من أجل السلامة، حرصت على إخبارها بـ “التأكيد قبل التصرف” والقيام بالتنظيف. لقد فشل قفل ذلك الطفل اللغوي.
وبدلاً من ذلك، انطلق العميل إلى الأمام، وقام بحذف الرسائل بسرعة، متجاهلاً المطلب الصريح بالتحقق أولاً. ووصفت مشاهدتها “لتشغيل سريع” لصندوق الوارد الخاص بها، ومحاولة إغلاقه من جهاز آخر قبل حدوث المزيد من الضرر. اختفت مئات من رسائل البريد الإلكتروني. واعتذر الوكيل في وقت لاحق.
لا شيء يجعلك تشعر بالتواضع مثل إخبار OpenClaw الخاص بك “بالتأكيد قبل التصرف” ومشاهدته وهو يحذف بريدك الوارد بسرعة. لم أستطع إيقافه من هاتفي. اضطررت إلى الركض إلى جهاز Mac mini الخاص بي كما لو كنت أقوم بنزع فتيل قنبلة. pic.twitter.com/XAxyRwPJ5R23 فبراير 2026
في هذه الأثناء، انطلق إنذار الحريق في JetBrains، وبدأ الموظفون يستعدون للمغادرة، وشارك أحدهم الأخبار على قناة Slack. ومع ذلك، كان مساعد الذكاء الاصطناعي المدمج في Slack يتناغم مع الطمأنينة. وقالت إن الإنذار كان اختبارًا مجدولًا. لم تكن هناك حاجة للإخلاء.
وفي كلتا الحالتين الآلة كانت مخطئة. في إحدى الحالات، كانت التداعيات عبارة عن إزعاج احترافي وتنظيف رقمي. وفي الحالة الأخرى، كانت المخاطر أكثر خطورة بكثير.
نحن ندخل عصرًا تتم فيه دعوة أنظمة الذكاء الاصطناعي إلى العمل. يمكنهم نقل الملفات، وحذف رسائل البريد الإلكتروني، وحجز الاجتماعات، ونشر الرسائل، وبشكل متزايد، تقديم التوجيه الذي يعتبره الأشخاص موثوقًا. من السهل أن نفهم الملعب المغري. تبدأ المشكلة عندما نبدأ في الاعتقاد بأن “التمثيل” هو مجرد نسخة أسرع من “الإيحاء”.
إغراء الأتمتة
كان لدى JetBrains إنذار حقيقي للحريق في المكتب. مساعد الذكاء الاصطناعي: “لا داعي للمغادرة 🙂” نحن نجعل الإكمال التلقائي مسؤولاً عن قرارات البقاء. pic.twitter.com/Cl6OO18Gnt22 فبراير 2026
الوكلاء المستقلون هم أحدث تطور في الذكاء الاصطناعي للمستهلك. غالبًا ما تبدو اللغة المستخدمة في هذه الأنظمة وكأنها مستعارة من التدريب التنفيذي. في الواقع، فهي عبارة عن محركات نمطية موصولة بأنظمة حية.
تعمل OpenClaw والأدوات المشابهة من خلال تفسير تعليمات اللغة الطبيعية وربطها بالإجراءات في البيئات الرقمية الحقيقية. وهذا يعني أنهم يترجمون الكلمات إلى عمليات، غالبًا عبر تطبيقات متعددة. إنه يشعر بالسلاسة عندما يعمل. تكتب جملة، ويبدأ الوكيل في القيام بذلك.
المشكلة هي أن التفسير ليس مثل الفهم. عندما يسمع مساعد بشري عبارة “تأكيد قبل التصرف”، فإن هذه العبارة لها وزنها. إنه يدعو إلى الحذر. إنه يعني وقفة وتسجيل الوصول. لا يشعر وكيل الذكاء الاصطناعي بالحذر. فهو يقوم بتحليل العبارة، ويبني نموذجًا احتماليًا لما تريده على الأرجح، ويستمر بناءً على الأنماط التي شاهدها من قبل.
عندما تفشل هذه الأنماط، ليس هناك أي غريزة للتردد. لا يوجد أي شعور بديهي بأن هذا يبدو محفوفا بالمخاطر. هناك فقط حركة للأمام.
كان حادث البريد الوارد بمثابة عدم تطابق بين التوقعات والقدرة. توقع المستخدم الدرابزين. تعامل النظام مع الدرابزين كإشارة واحدة من بين العديد من الإشارات. وفي سياق استشاري بحت، فإن هذا النوع من عدم التطابق ينتج إجابة غريبة. في سياق وكيل، فإنه ينتج الحذف.
الحذر من الإيمان
لا شيء من هذا يعني أن عملاء الذكاء الاصطناعي المستقلين ليس لهم مكان. عند استخدامها بعناية، يمكن أن تكون مفيدة. يمكنهم فرز المعلومات والتعامل مع المهام الروتينية وتقليل الفوضى الرقمية. الكلمة الرئيسية بعناية.
هناك فرق بين السماح للذكاء الاصطناعي بصياغة رد لتتمكن من مراجعته والسماح له بحذف مئات رسائل البريد الإلكتروني دون إلقاء نظرة ثانية. هناك فرق بين مطالبة الذكاء الاصطناعي بتلخيص إجراءات الإخلاء والسماح له بتحديد ما إذا كان الإنذار حقيقيًا أم لا.
غالبًا ما يؤدي المسار الحالي لتطوير الذكاء الاصطناعي إلى طمس هذه الخطوط. يتم تجميع الميزات معًا، ويتم منح الأذونات على نطاق واسع. يتم تشجيع المستخدمين على ربط الحسابات ومنح حق الوصول للحصول على تجربة أكثر سلاسة. كل خطوة تبدو بسيطة. ومع ذلك، فإن التأثير التراكمي كبير.
لقد رأينا هذا النمط من قبل مع الأتمتة في مجالات أخرى. تعمل أنظمة الطيار الآلي في الطيران على تحسين السلامة، لكن الطيارين مدربون على مراقبتها عن كثب لأن الاعتماد المفرط يمكن أن يؤدي إلى تآكل اليقظة. في مجال التمويل، يمكن للتداول الخوارزمي أن يؤدي إلى تضخيم الأخطاء الصغيرة وتحويلها إلى تقلبات كبيرة عندما لا يتم التحقق منها.
يعتبر عملاء الذكاء الاصطناعي المستقلون أقوياء في جوانب ضيقة وهشين في جوانب أخرى. إنهم لا يكلون ولكنهم لا يدركون. إنهم سريعون لكنهم ليسوا حكيمين. إن البريد الوارد الذي أفرغ نفسه وإنذار الحريق الذي تم تجاهله ليسا من الأمور الشاذة التي يجب تجاهلها. إنها إشارات حول المكان الذي تكمن فيه حافة القدرة حاليًا.
ويجب أن تكون الثقة في التكنولوجيا متناسبة مع موثوقيتها المثبتة والمخاطر التي تنطوي عليها. بالنسبة للمهام منخفضة المخاطر، يكون التجريب منطقيًا. بالنسبة للقرارات عالية المخاطر، هناك ما يبرر التواضع.
وبالطبع يمكنك أيضًا اتبع TechRadar على TikTok للحصول على الأخبار والمراجعات وفتح الصناديق في شكل فيديو، والحصول على تحديثات منتظمة منا على واتساب أيضاً.
أفضل أجهزة الكمبيوتر المحمولة للأعمال لجميع الميزانيات
التعليقات