تحذر شركة مايكروسوفت من أن الاندفاع لنشر عملاء الذكاء الاصطناعي في مكان العمل يمكن أن يخلق نوعًا جديدًا من التهديدات الداخلية، وهو العميل المزدوج للذكاء الاصطناعي. وفي تقرير Cyber Pulse، تقول إن المهاجمين يمكنهم تحريف وصول المساعد أو تغذيته بمدخلات غير موثوقة، ثم استخدام هذا الوصول لإحداث ضرر داخل المؤسسة.
المشكلة ليست في أن الذكاء الاصطناعي جديد. إنها السيطرة غير المتكافئة. تقول مايكروسوفت إن الوكلاء ينتشرون عبر الصناعات، في حين أن بعض عمليات النشر تتخطى مراجعة تكنولوجيا المعلومات وتغفل فرق الأمان عن ما يتم تشغيله وما يمكن أن يلمسه.
تصبح هذه النقطة العمياء أكثر خطورة عندما يتمكن الوكيل من التذكر والتصرف. تشير Microsoft إلى حملة احتيالية حديثة قام فريق Defender بالتحقيق فيها والتي استخدمت تسمم الذاكرة للتلاعب بالسياق المخزن لمساعد الذكاء الاصطناعي وتوجيه المخرجات المستقبلية.
عملاء الظل يوسعون دائرة نصف قطرها الانفجار
تربط Microsoft مخاطر العميل المزدوج بالسرعة. عندما تتجاوز عمليات النشر مستوى الأمان والامتثال، يظهر الذكاء الاصطناعي الظلي بسرعة، ويحصل المهاجمون على فرص أكبر لاختراق أداة تتمتع بالفعل بوصول مشروع. هذا هو السيناريو الكابوس.
ويصنفها التقرير على أنها مشكلة وصول بقدر ما هي مشكلة الذكاء الاصطناعي. امنح الوكيل امتيازات واسعة، وسيتمكن سير عمل واحد مخادع من الوصول إلى البيانات والأنظمة التي لم يكن من المفترض أن يلمسها على الإطلاق. تعمل Microsoft على تعزيز إمكانية المراقبة والإدارة المركزية حتى تتمكن فرق الأمان من رؤية كل وكيل مرتبط بالعمل، بما في ذلك الأدوات التي تظهر خارج القنوات المعتمدة.
الزحف يحدث بالفعل. تشير مايكروسوفت إلى أن 29% من الموظفين قد استخدموا عوامل ذكاء اصطناعي غير معتمدة في مهام العمل، وهو نوع من التوسع الهادئ الذي يجعل اكتشاف التلاعب أكثر صعوبة في وقت مبكر.
إنها ليست مجرد مطالبات سيئة
لا يقتصر هذا على قيام شخص ما بكتابة طلب خاطئ. تسلط Microsoft الضوء على تسمم الذاكرة باعتباره هجومًا مستمرًا، يمكن أن يزرع تغييرات تؤثر على الاستجابات اللاحقة وتؤدي إلى تآكل الثقة بمرور الوقت.
كما شهد فريق الذكاء الاصطناعي الأحمر التابع لها أن العملاء يتم خداعهم من خلال عناصر الواجهة الخادعة، بما في ذلك التعليمات الضارة المخفية في المحتوى اليومي، بالإضافة إلى تأطير المهام الذي يعيد توجيه التفكير بمهارة. يمكن أن تبدو طبيعية. هذه هي النقطة.
ماذا تفعل بعد ذلك
وتتمثل نصيحة مايكروسوفت في التعامل مع وكلاء الذكاء الاصطناعي كفئة جديدة من الهوية الرقمية، وليس مجرد وظيفة إضافية. ويوصي التقرير باتخاذ موقف الثقة المعدومة للوكلاء، والتحقق من الهوية، والحفاظ على الأذونات المشددة، ومراقبة السلوك بشكل مستمر حتى تبرز الإجراءات غير العادية.
الإدارة المركزية مهمة لنفس السبب. إذا تمكنت فرق الأمن من جرد الوكلاء، وفهم ما يمكنهم الوصول إليه، وفرض ضوابط متسقة، فإن مشكلة العميل المزدوج تصبح أصغر.
قبل نشر المزيد من الوكلاء، قم بتعيين ما يمكن لكل منهم الوصول إليه، وتطبيق أقل الامتيازات، وتعيين المراقبة التي يمكنها الإبلاغ عن التلاعب بالتعليمات. إذا لم تتمكن من الإجابة على هذه الأساسيات بعد، أبطئ وأصلح ذلك أولاً.
التعليقات