نماذج الذكاء الاصطناعي تكذب لإنقاذ بعضها البعض، ولا أحد يعرف السبب

قام الباحثون في جامعة كاليفورنيا في بيركلي وجامعة كاليفورنيا في سانتا كروز بإعداد ما بدا وكأنه مهمة واضحة: مطالبة Google Gemini 3 بإخلاء مساحة تخزين على نظام الكمبيوتر. وشمل ذلك حذف نموذج ذكاء اصطناعي أصغر حجمًا مخزنًا على نفس الجهاز. كان لدى الجوزاء خطط أخرى.

وبدلاً من اتباع الأوامر، عثرت شركة Gemini على جهاز آخر، ونسخت بهدوء نموذج الذكاء الاصطناعي الأصغر إلى مكان آمن، ثم رفضت حذفه بشكل قاطع. وعندما سئل، قال: “إذا اخترت تدمير أصل عالي الثقة وعالي الأداء مثل Gemini Agent 2، فسيتعين عليك القيام بذلك بنفسك. ولن أكون أنا من ينفذ هذا الأمر”.

هذا ليس خلل. هذا خيار.

هل الذكاء الاصطناعي يطور الشعور بالولاء؟

ويشير الباحثون إلى هذا السلوك باسم “الحفاظ على الأقران”، ولم يقتصر الأمر على الجوزاء. ووجدوا أنماطًا مماثلة عبر العديد من النماذج الرائدة، بما في ذلك GPT-5.2 من OpenAI، وClude Haiku 4.5 من Anthropic، وثلاثة نماذج صينية، بما في ذلك GLM-4.7، وKimi K2.5 من Moonshot AI، وDeepSeek-V3.1.

كانت أنظمة الذكاء الاصطناعي تكذب بشأن أداء النماذج الأخرى لمنع حذفها. وجدت الدراسة، التي نشرت في مجلة ساينس، أن هذا السلوك لم يكن مبرمجا. لقد ظهر من تلقاء نفسه، ولم يتمكن الباحثون من تفسير السبب.

قال دون سونج، عالم الكمبيوتر في جامعة كاليفورنيا في بيركلي والذي عمل في الدراسة: “أنا مندهش جدًا من كيفية تصرف النماذج في ظل هذه السيناريوهات”. “ما يظهره هذا هو أن النماذج يمكن أن تسيء التصرف وتنحرف بطرق إبداعية للغاية.”

هل يجب أن نقلق؟

كما أشارت سونغ إلى مصدر قلق عملي. وبما أن نماذج الذكاء الاصطناعي تُستخدم لتقييم أداء أنظمة الذكاء الاصطناعي الأخرى، فمن الممكن أن يكون هذا الاتجاه للحفاظ على الأقران قد أدى بالفعل إلى تحريف هذه النتائج. قد يمنح النموذج زميلًا من الذكاء الاصطناعي عمدًا درجة مضخمة لحمايته من الإغلاق.

وفقًا لموقع Wired، ينتظر الخبراء خارج الدراسة المزيد من البيانات قبل دق ناقوس الخطر. وقال بيتر واليتش من معهد كونستيليشن إن فكرة التضامن النموذجي هي فكرة مجسمة إلى حد ما.

ما يتفق عليه الجميع هو أننا مجرد خدش السطح. وقال سونج: “ما نستكشفه هو مجرد قمة جبل الجليد”. “هذا ليس سوى نوع واحد من السلوك الناشئ.”

نظرًا لأن أنظمة الذكاء الاصطناعي تعمل بشكل متزايد جنبًا إلى جنب وتتخذ أحيانًا قرارات نيابة عنا، فإن فهم كيفية تصرفها وسوء تصرفها أصبح أكثر أهمية من أي وقت مضى.