2 أبريل 2026
2 دقيقة قراءة
أضفنا على جوجلأضف SciAm
WTF، Anthropic's Claude Code يتتبع كل مرة تقسم فيها
الكود الذي يقرأ إحباطك هو الجزء الأقل إثارة للاهتمام في قصة هذا التسرب العرضي من Anthropic. يكشف التسريب كيف تخفي أدوات الذكاء الاصطناعي أيضًا دورها في العمل الذي تساعد في إنتاجه
في 31 مارس، قامت شركة الذكاء الاصطناعي Anthropic بتسريب ما يقرب من 512000 سطر من التعليمات البرمجية عن طريق الخطأ، وفي غضون ساعات، كان المطورون يدققون فيها. ومن بين المفاجآت كانت هناك تعليمات برمجية داخل Claude Code، مساعد البرمجة بالذكاء الاصطناعي من Anthropic، والذي يبدو أنه يقوم بفحص مطالبات المستخدم بحثًا عن علامات الإحباط. إنه يشير إلى الألفاظ النابية والشتائم والعبارات مثل “محبط جدًا” و”هذا مقرف”، ويبدو أنه يسجل أن المستخدم عبر عن سلبيته.
اكتشف المطورون أيضًا تعليمات برمجية مصممة لمسح الإشارات إلى الأسماء الخاصة بالإنسان – حتى عبارة “Claude Code” – عند استخدام الأداة لإنشاء تعليمات برمجية في مستودعات البرامج العامة، مما يجعل الكود الأخير يبدو كما لو أنه مكتوب بالكامل بواسطة إنسان. نشر أليكس كيم، وهو مطور مستقل، تحليلاً فنيًا للشفرة المسربة أطلق عليها اسم “الباب ذو الاتجاه الواحد” – وهي ميزة يمكن تشغيلها بالقوة ولكن لا يمكن إيقافها. وكتب: “إن إخفاء الأسماء الرمزية الداخلية أمر معقول”. “إن قيام الذكاء الاصطناعي بالتظاهر بأنه إنسان هو أمر مختلف.” لم تستجب الأنثروبيك لطلب التعليق من العلمية الأمريكية.
تكشف النتائج عن مشكلة ناشئة في جميع أنحاء صناعة الذكاء الاصطناعي: الأدوات المصممة لتكون مفيدة وحميمية تقيس أيضًا الأشخاص الذين يستخدمونها بهدوء، وتحجب أيديهم في العمل الذي يساعدون في إنتاجه. تقدم شركة أنثروبيك، التي راهنت بسمعتها على سلامة الذكاء الاصطناعي، دراسة حالة مبكرة حول كيف يمكن لجمع البيانات السلوكية أن يتفوق على الحوكمة.
حول دعم الصحافة العلمية
إذا كنت تستمتع بهذا المقال، فكر في دعم صحافتنا الحائزة على جوائز من خلال الاشتراك. من خلال شراء اشتراك، فإنك تساعد على ضمان مستقبل القصص المؤثرة حول الاكتشافات والأفكار التي تشكل عالمنا اليوم.
من الناحية الفنية، فإن كاشف الإحباط بسيط. فهو يستخدم التعبير العادي، وهو أسلوب قديم لمطابقة الأنماط – وليس الذكاء الاصطناعي. كتب كيم: “إن شركة LLM التي تستخدم التعابير المنطقية لتحليل المشاعر هي ذروة السخرية”. لكن الاختيار، يلاحظ في مقابلة مع العلمية الأمريكية، كان عمليًا: “إن Regex مجاني من الناحية الحسابية، في حين أن استخدام LLM لاكتشاف ذلك سيكون مكلفًا على نطاق الاستخدام العالمي لـ Claude Code.” ويضيف أن الإشارة “لا تغير سلوك النموذج أو استجاباته. إنها مجرد مقياس لحالة المنتج: هل يشعر المستخدمون بالإحباط، وهل يرتفع المعدل أم ينخفض عبر الإصدارات؟”
تقول ميراندا بوجن، مديرة مختبر حوكمة الذكاء الاصطناعي في مركز الديمقراطية والتكنولوجيا، إن القضية الأكثر إلحاحًا هي ما يحدث لمثل هذه المعلومات بمجرد حصول الشركة عليها. وتقول: “حتى لو كان نمط التنبؤ واضحًا وبسيطًا للغاية، فإن كيفية استخدام تلك المعلومات هي مسألة حوكمة منفصلة”. يمكن للإشارة المجمعة لغرض واحد أن تنتقل إلى أجزاء أخرى من المنتج بطرق لا يتوقعها المستخدمون أو يوافقون عليها.
يقول بوجن إن هذا النمط مألوف في منصات الإنترنت القديمة، حيث أصبحت الإشارات السلوكية الصغيرة إشارات تشكل ما يراه المستخدمون وكيف يتم تصنيفهم. وتواجه شركات الذكاء الاصطناعي مشكلة خصوصية مماثلة: حيث يقوم المستخدمون بتسليم هذه الأنظمة كميات هائلة من المعلومات على وجه التحديد لأن الأدوات مصممة للتعرف عليها بشكل جيد بما يكفي لتكون مفيدة. “من يتتبع الأشياء المتعلقة بالمستخدمين؟” يسأل بوجن. “وكيف يتم استخدام هذه المعلومات لاتخاذ قرارات بشأنها؟” ما أوضحه التسريب الأنثروبي هو أن مثل هذه المحاسبة مكتوبة بالفعل في الكود، في شركة واحدة على الأقل.
حان الوقت للدفاع عن العلم
إذا استمتعت بهذا المقال، أود أن أطلب دعمكم. العلمية الأمريكية لقد عمل كمدافع عن العلوم والصناعة لمدة 180 عامًا، وربما تكون اللحظة الحالية هي اللحظة الأكثر أهمية في تاريخ القرنين.
لقد كنت العلمية الأمريكية مشترك منذ أن كان عمري 12 عامًا، وقد ساعد ذلك في تشكيل الطريقة التي أنظر بها إلى العالم. SciAm يثقفني ويسعدني دائمًا، ويلهمني شعورًا بالرهبة تجاه عالمنا الواسع والجميل. وآمل أن يفعل ذلك بالنسبة لك أيضا.
إذا كنت الاشتراك في العلمية الأمريكيةأنت تساعد في ضمان أن تغطيتنا تركز على البحث والاكتشاف الهادف؛ وأن لدينا الموارد اللازمة للإبلاغ عن القرارات التي تهدد المختبرات في جميع أنحاء الولايات المتحدة؛ وأننا ندعم العلماء الناشئين والعاملين على حد سواء في وقت لا يتم فيه الاعتراف بقيمة العلم نفسه في كثير من الأحيان.
وفي المقابل، تحصل على الأخبار الأساسية، ملفات بودكاست آسرة، ورسوم بيانية رائعة، لا يمكنك تفويت النشرات الإخبارية ومقاطع الفيديو التي يجب مشاهدتها، ألعاب التحدي، وأفضل الكتابة والتقارير في عالم العلوم. يمكنك حتى إهداء شخص ما اشتراكًا.
لم يكن هناك وقت أكثر أهمية بالنسبة لنا للوقوف وإظهار أهمية العلم. آمل أن تدعمونا في تلك المهمة.
التعليقات