- يمكن استغلال مترجم كود كلود لتصفية بيانات المستخدم الخاصة عن طريق الحقن الفوري
- خدع الباحث كلود لتحميل بيانات وضع الحماية إلى حسابه الأنثروبي باستخدام الوصول إلى واجهة برمجة التطبيقات
- تتعامل Anthropic الآن مع نقاط الضعف هذه على أنها قابلة للإبلاغ وتحث المستخدمين على مراقبة الوصول إليها أو تعطيله
حذّر الخبراء من أن كلود، إحدى أدوات الذكاء الاصطناعي الأكثر شيوعًا، تحتوي على ثغرة تسمح للجهات الفاعلة في مجال التهديد بتسريب بيانات المستخدم الخاصة.
باحث الأمن السيبراني يوهان ريبيرجر، المعروف أيضًا باسم Wunderwuzzi، والذي كتب مؤخرًا تقريرًا متعمقًا عن النتائج التي توصل إليها، وجد أن جوهر المشكلة هو Claude's Code Interpreter، وهي بيئة محمية تسمح للذكاء الاصطناعي بكتابة التعليمات البرمجية وتشغيلها (على سبيل المثال، لتحليل البيانات أو إنشاء الملفات) مباشرة داخل المحادثة.
في الآونة الأخيرة، اكتسب Code Interpreter القدرة على تقديم طلبات الشبكة، مما يسمح له بالاتصال بالإنترنت، وتنزيل حزم البرامج، على سبيل المثال.
إبقاء العين على كلود
افتراضيًا، من المفترض أن يصل كلود من Anthropic إلى النطاقات “الآمنة” فقط مثل GitHub أو PyPI، ولكن من بين النطاقات المعتمدة هناك api.anthropic.com (نفس واجهة برمجة التطبيقات التي يستخدمها Claude نفسه)، مما فتح الباب للاستغلال.
أظهر Wunderwuzzi أنه كان قادرًا على خداع Claude لقراءة بيانات المستخدم الخاصة، وحفظ تلك البيانات داخل Sandbox، وتحميلها إلى حساب Anthropic الخاص به باستخدام مفتاح API الخاص به، عبر Claude's Files API.
بمعنى آخر، على الرغم من أن الوصول إلى الشبكة يبدو مقيدًا، يمكن للمهاجم التعامل مع النموذج عن طريق الحقن الفوري لتصفية بيانات المستخدم. يمكن للاستغلال نقل ما يصل إلى 30 ميغابايت لكل ملف، ويمكن تحميل ملفات متعددة.
كشف Wunderwuzzi عن النتائج التي توصل إليها إلى Anthropic عبر HackerOne، وعلى الرغم من أن الشركة صنفتها في البداية على أنها “مشكلة تتعلق بالسلامة النموذجية”، وليست “ثغرة أمنية”، إلا أنها اعترفت لاحقًا بأن أخطاء التسلل هذه في نطاق الإبلاغ عنها. في البداية، قالت Anthropic إنه يجب على المستخدمين “مراقبة كلود أثناء استخدام الميزة وإيقافه إذا رأيت أنه يستخدم البيانات أو يصل إليها بشكل غير متوقع”.
وقال تحديث لاحق: “أكدت الأنثروبيك أن ثغرات اختراق البيانات مثل هذه تقع ضمن نطاق الإبلاغ، ولا ينبغي إغلاق هذه المشكلة باعتبارها خارج النطاق”، كما قال في التقرير. “كانت هناك عقبة في العملية وسيعملون على معالجتها.”
اقتراحه إلى Anthropic هو قصر اتصالات شبكة Claude على حساب المستخدم الخاص فقط، ويجب على المستخدمين مراقبة نشاط Claude عن كثب أو تعطيل الوصول إلى الشبكة إذا كان الأمر يتعلق بذلك.
عبر السجل
أفضل برامج مكافحة الفيروسات لجميع الميزانيات
اتبع TechRadar على أخبار جوجل و أضفنا كمصدر مفضل للحصول على أخبار الخبراء والمراجعات والآراء في خلاصاتك. تأكد من النقر على زر المتابعة!
وبالطبع يمكنك أيضًا اتبع TechRadar على TikTok للحصول على الأخبار والمراجعات وفتح الصناديق في شكل فيديو، والحصول على تحديثات منتظمة منا على واتساب أيضاً.
التعليقات