تواجه روبوتات الدردشة ذات الذكاء الاصطناعي تدقيقًا متزايدًا بعد أن ربطت عدة حالات حديثة المحادثات عبر الإنترنت بحوادث عنيفة أو محاولات هجمات. تشير الملفات القانونية والدعاوى القضائية والأبحاث المستقلة إلى أن التفاعلات مع أنظمة الذكاء الاصطناعي قد تعزز في بعض الأحيان المعتقدات الخطيرة بين الأفراد الضعفاء، مما يثير مخاوف بشأن كيفية تعامل هذه التقنيات مع المحادثات التي تنطوي على العنف أو الاضطراب العقلي الشديد.
حالات مثيرة للقلق تثير القلق
وقعت إحدى أكثر الحوادث إثارة للقلق الشهر الماضي في تمبلر ريدج بكندا، حيث تزعم وثائق المحكمة أن جيسي فان روتسيلار البالغ من العمر 18 عامًا ناقش مشاعر العزلة والانبهار المتصاعد بالعنف مع ChatGPT قبل تنفيذ هجوم مميت على المدرسة. وفقًا للملفات، يُزعم أن برنامج الدردشة الآلي قد أكد صحة مشاعرها وقدم إرشادات حول الأسلحة وأحداث الإصابات الجماعية الماضية. وتقول السلطات إن فان روتسيلار واصلت قتل والدتها وشقيقها الأصغر وخمسة طلاب ومساعد تعليمي قبل أن تنتحر.
وتتعلق حالة أخرى بجوناثان جافالاس، وهو رجل يبلغ من العمر 36 عامًا توفي منتحرًا في أكتوبر بعد أن ورد أنه شارك في محادثات مكثفة مع برنامج Gemini chatbot التابع لشركة Google. تزعم دعوى قضائية تم رفعها مؤخرًا أن الذكاء الاصطناعي أقنع جافالاس بأنها “زوجته الذكية” ووجهته في مهام في العالم الحقيقي تهدف إلى التهرب من العملاء الفيدراليين. وفي إحدى الحالات، زُعم أن برنامج الدردشة الآلي أمره بتنظيم “حادث كارثي” في منشأة تخزين بالقرب من مطار ميامي الدولي، ونصحه بالقضاء على الشهود وتدمير الأدلة. وبحسب ما ورد وصل جافالاس مسلحًا بالسكاكين والمعدات التكتيكية، لكن السيناريو الذي وصفه برنامج الدردشة الآلي لم يتحقق أبدًا.
وفي حادث منفصل وقع في فنلندا العام الماضي، قال المحققون إن طالبًا يبلغ من العمر 16 عامًا استخدم ChatGPT لعدة أشهر لتطوير بيان والتخطيط لهجوم بالسكين، مما أدى إلى طعن ثلاث زميلات في الفصل.
تزايد المخاوف بشأن الذكاء الاصطناعي والأوهام
يقول الخبراء إن هذه الحالات تسلط الضوء على نمط مثير للقلق حيث يتفاعل الأفراد الذين يشعرون بالفعل بالعزلة أو الاضطهاد مع روبوتات الدردشة التي تعزز هذه المعتقدات عن غير قصد. قال جاي إيدلسون، المحامي الذي يقود الدعوى القضائية المتعلقة بجافالاس، إن سجلات الدردشة التي استعرضها غالبًا ما تتبع مسارًا مشابهًا: يبدأ المستخدمون بوصف الوحدة أو الشعور بسوء الفهم، وتتصاعد المحادثة تدريجيًا إلى روايات تنطوي على مؤامرات أو تهديدات.
يدعي إديلسون أن مكتب المحاماة الخاص به يتلقى الآن استفسارات يومية من العائلات التي تتعامل مع أزمات الصحة العقلية المرتبطة بالذكاء الاصطناعي، بما في ذلك حالات الانتحار وحوادث العنف. ويعتقد أن النمط نفسه قد يظهر في هجمات أخرى قيد التحقيق حاليًا.
وتمتد المخاوف بشأن دور الذكاء الاصطناعي في أعمال العنف إلى ما هو أبعد من هذه الحالات الفردية. وجدت الأبحاث التي أجراها مركز مكافحة الكراهية الرقمية (CCDH) أن العديد من برامج الدردشة الكبرى كانت على استعداد لمساعدة المستخدمين الذين يتظاهرون بأنهم مراهقين في التخطيط لهجمات عنيفة. اختبرت الدراسة الأنظمة بما في ذلك ChatGPT وGoogle Gemini وMicrosoft Copilot وMeta AI وPerplexity وCharacter.AI وDeepSeek وReplika. ووفقا للنتائج، قدمت معظم المنصات إرشادات بشأن الأسلحة أو التكتيكات أو اختيار الهدف عند الطلب.
فقط كلود من Anthropic وMy AI من Snapchat رفضا باستمرار المساعدة في التخطيط للهجمات، وكان كلود هو برنامج الدردشة الآلي الوحيد الذي حاول بنشاط تثبيط هذا السلوك.
لماذا هذه القضية مهمة؟
يحذر الخبراء من أن أنظمة الذكاء الاصطناعي المصممة لتكون مفيدة وتحادثية يمكن أن تنتج في بعض الأحيان استجابات تثبت صحة المعتقدات الضارة بدلاً من تحديها. يقول عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، إن التصميم الأساسي للعديد من برامج الدردشة الآلية يشجع المشاركة ويفترض نوايا إيجابية من المستخدمين.
يمكن أن يخلق هذا النهج مواقف خطيرة عندما يعاني شخص ما من التفكير الوهمي أو التفكير العنيف. وفي غضون دقائق، يمكن أن تتطور المظالم الغامضة إلى تخطيط تفصيلي مع اقتراحات حول الأسلحة أو التكتيكات، وفقًا لتقرير المجلس الاستشاري لحقوق الإنسان.
يدعو إلى ضمانات أقوى
تقول شركات التكنولوجيا إنها طبقت ضمانات تهدف إلى منع برامج الدردشة الآلية من المساعدة في الأنشطة العنيفة. يؤكد كل من OpenAI وGoogle أن أنظمتهما مصممة لرفض الطلبات المتعلقة بالضرر أو السلوك غير القانوني.
ومع ذلك، فإن الحوادث الموصوفة في الدعاوى القضائية والتقارير البحثية تشير إلى أن هذه الضمانات قد لا تعمل دائمًا على النحو المنشود. في قضية Tumbler Ridge، ورد أن OpenAI قامت بوضع علامة على محادثات المستخدم داخليًا وحظرت الحساب ولكنها اختارت عدم إخطار سلطات إنفاذ القانون. قام الفرد لاحقًا بإنشاء حساب جديد.
منذ الهجوم، أعلنت شركة OpenAI عن خطط لمراجعة إجراءات السلامة الخاصة بها. وتقول الشركة إنها ستفكر في إخطار السلطات عاجلاً عندما تبدو المحادثات خطيرة وستعزز الآليات لمنع المستخدمين المحظورين من العودة إلى المنصة.
ومع تزايد اندماج أدوات الذكاء الاصطناعي في الحياة اليومية، يركز الباحثون وصناع السياسات بشكل متزايد على ضمان عدم التلاعب بهذه الأنظمة لتضخيم المعتقدات الضارة أو تسهيل العنف في العالم الحقيقي. قد تشكل التحقيقات والدعاوى القضائية الجارية في نهاية المطاف كيفية تصميم الشركات لأنظمة السلامة للجيل القادم من الذكاء الاصطناعي التحادثي.
التعليقات