يزعم الباحثون أن ChatGPT به مجموعة كاملة من العيوب الأمنية المثيرة للقلق، وإليكم ما وجدوه

• تقول شركة Tenable إنها عثرت على سبعة عيوب في الحقن الفوري في ChatGPT-4o، والتي يطلق عليها اسم سلسلة الهجوم “HackedGPT”
• تتضمن الثغرات الأمنية الأوامر المخفية واستمرارية الذاكرة وتجاوزات الأمان عبر الأغلفة الموثوقة
• قام OpenAI بإصلاح بعض المشكلات في GPT-5؛ وبقي آخرون، مما أثار دعوات لدفاع أقوى

يقول باحثون أمنيون إن ChatGPT به عدد كبير من المشكلات الأمنية التي قد تسمح للجهات الفاعلة في مجال التهديد بإدخال أوامر مخفية، وسرقة البيانات الحساسة، ونشر معلومات مضللة في أداة الذكاء الاصطناعي.

في الآونة الأخيرة، قام خبراء الأمن من Tenable باختبار ChatGPT-4o الخاص بـ OpenAI ووجدوا سبع نقاط ضعف أطلقوا عليها بشكل جماعي اسم HackedGPT. وتشمل هذه:

• الحقن الفوري غير المباشر عبر المواقع الموثوقة (إخفاء الأوامر داخل المواقع العامة والتي يمكن أن تتبعها GPT دون قصد عند قراءة المحتوى)
• 0 نقرة على الإدخال الفوري غير المباشر في سياق البحث (تبحث GPT في الويب وتجد صفحة تحتوي على تعليمات برمجية ضارة مخفية. قد يؤدي طرح الأسئلة إلى إجبار GPT على اتباع التعليمات دون قصد)
• الحقن الفوري عبر نقرة واحدة (تطور في التصيد الاحتيالي حيث ينقر المستخدم على رابط يحتوي على أوامر GPT المخفية)
• تجاوز آلية الأمان (تغليف الروابط الضارة في أغلفة موثوقة، وخداع GPT لعرض الروابط للمستخدم)
• حقن المحادثة: (يمكن للمهاجمين استخدام نظام SearchGPT لإدراج تعليمات مخفية يقرأها ChatGPT لاحقًا، مما يؤدي إلى حقن نفسه بشكل فعال).
• إخفاء المحتوى الضار (يمكن إخفاء التعليمات الضارة داخل التعليمات البرمجية أو نص تخفيض السعر)
• الحقن المستمر للذاكرة (يمكن وضع تعليمات ضارة في الدردشات المحفوظة، مما يتسبب في تكرار النموذج للأوامر وتسريب البيانات باستمرار).

يدعو إلى تصلب الدفاعات