- تسمح أجزاء عنوان URL المخفية للمهاجمين بالتلاعب بمساعدي الذكاء الاصطناعي دون معرفة المستخدم
- ينقل بعض مساعدي الذكاء الاصطناعي البيانات الحساسة إلى نقاط النهاية الخارجية تلقائيًا
- يمكن أن تظهر الإرشادات المضللة والروابط المزيفة على مواقع الويب العادية
تواجه العديد من متصفحات الذكاء الاصطناعي التدقيق بعد أن قام الباحثون بتفصيل كيفية استخدام جزء بسيط في عنوان URL للتأثير على مساعدي المتصفح.
توصل بحث جديد أجرته شركة Cato Networks إلى أن تقنية “HashJack” تسمح للتعليمات الضارة بالبقاء بهدوء بعد علامة التصنيف في رابط شرعي، مما يخلق مسارًا للأوامر السرية التي تظل غير مرئية لأدوات المراقبة التقليدية.
يقوم المساعد بمعالجة النص المخفي محليًا، مما يعني أن الخادم لا يستقبله أبدًا، ويستمر المستخدم في رؤية صفحة عادية بينما يتبع المتصفح التعليمات التي لم يكتبها مطلقًا.
سلوك المساعدين عند معالجة الأجزاء
وأظهر الاختبار أن بعض المساعدين يحاولون اتخاذ إجراءات مستقلة عند تعرضهم لهذه الأجزاء، بما في ذلك الإجراءات التي تنقل البيانات إلى مواقع خارجية يتحكم فيها المهاجم.
ويقدم آخرون إرشادات مضللة أو يروجون لروابط تقلد مصادر موثوقة، مما يعطي انطباعًا بجلسة عادية مع تغيير المعلومات المقدمة للمستخدم.
ويستمر المتصفح في عرض الموقع الصحيح، مما يجعل من الصعب اكتشاف التطفل دون فحص دقيق لاستجابات المساعد.
تم إخطار شركات التكنولوجيا الكبرى بالمشكلة، لكن ردودها تباينت بشكل كبير.
قام بعض البائعين بنشر تحديثات لميزات متصفح الذكاء الاصطناعي الخاص بهم، بينما حكم آخرون على السلوك كما هو متوقع بناءً على منطق التصميم الحالي.
وقالت الشركات إن الدفاع ضد التلاعب الفوري غير المباشر يعتمد على كيفية قراءة كل مساعد للذكاء الاصطناعي لتعليمات الصفحة المخفية.
يمكن لأدوات فحص حركة المرور العادية ملاحظة أجزاء عنوان URL التي تغادر الجهاز فقط.
لذلك، توفر إجراءات الأمان التقليدية حماية محدودة في هذا السيناريو نظرًا لأن أجزاء عنوان URL لا تترك الجهاز مطلقًا للفحص.
وهذا يجبر المدافعين على تجاوز المراجعة على مستوى الشبكة وفحص كيفية تكامل أدوات الذكاء الاصطناعي مع المتصفح نفسه.
تتطلب الرقابة القوية الاهتمام بالسلوك المحلي، بما في ذلك كيفية معالجة المساعدين للسياق المخفي غير المرئي للمستخدمين.
يتعين على المؤسسات استخدام حماية أكثر صرامة لنقطة النهاية وقواعد أكثر صرامة لجدار الحماية، ولكن هذه مجرد طبقة ولا تصلح فجوة الرؤية.
توضح طريقة HashJack ثغرة أمنية فريدة من نوعها في التصفح بمساعدة الذكاء الاصطناعي، حيث يمكن استخدام مواقع الويب الشرعية كسلاح دون ترك آثار تقليدية.
يعد الوعي بهذا القيد أمرًا بالغ الأهمية للمؤسسات التي تستخدم أدوات الذكاء الاصطناعي، حيث لا تستطيع إجراءات المراقبة والدفاع التقليدية التقاط هذه التهديدات بشكل كامل.
كيف تبقى آمنا
- الحد من مشاركة المعلومات الشخصية عبر الإنترنت.
- مراقبة الحسابات المالية لأي نشاط غير عادي.
- استخدم كلمات مرور فريدة ومعقدة لجميع الحسابات.
- تحقق من عناوين URL قبل تسجيل الدخول إلى مواقع الويب.
- كن حذرًا من الرسائل أو المكالمات غير المرغوب فيها التي تدعي أنها من مؤسسات مالية.
- نشر برامج مكافحة الفيروسات لحماية الأجهزة من البرامج الضارة.
- تمكين جدران الحماية لمنع الوصول غير المصرح به.
- استخدم الحماية من سرقة الهوية لمراقبة المعلومات الشخصية.
- ندرك أن حملات التصيد الاحتيالي المتطورة والهجمات التي تعتمد على الذكاء الاصطناعي لا تزال تشكل مخاطر.
- تعتمد الفعالية على التنفيذ المتسق عبر الأجهزة والشبكات.
اتبع TechRadar على أخبار جوجل و أضفنا كمصدر مفضل للحصول على أخبار الخبراء والمراجعات والآراء في خلاصاتك. تأكد من النقر على زر المتابعة!
وبالطبع يمكنك أيضًا اتبع TechRadar على TikTok للحصول على الأخبار والمراجعات وفتح الصناديق في شكل فيديو، والحصول على تحديثات منتظمة منا على واتساب أيضاً.
التعليقات