- حذرت شركة Gartner المؤسسات من حظر متصفحات الذكاء الاصطناعي
- يمكن لمتصفحات الذكاء الاصطناعي تهديد البيانات، وتسريب المعلومات المالية، وتمرير بيانات الاعتماد
- يمكن للموظفين استخدام متصفحات الذكاء الاصطناعي لإكمال التدريب على الأمن السيبراني
نصحت شركة المحللين Gartner المؤسسات بحظر استخدام متصفحات الذكاء الاصطناعي، محذرة من احتمالية الكشف عن البيانات أو الإجراءات المستقلة التي تقوم بها المتصفحات الوكيلة على مواقع الويب الضارة.
الملاحظة الرئيسية التي قدمها الباحث VP Dennis Xu، والمحلل الأول Evgeny Mirolyubov، ونائب الرئيس المحلل John Watts هي أن “إعدادات متصفح الذكاء الاصطناعي الافتراضية تعطي الأولوية لتجربة المستخدم على الأمان”.
غالبًا ما يتم استخدام متصفحات الذكاء الاصطناعي، مثل ChatGPT Atlas من OpenAI، لتعزيز الكفاءة عن طريق استخدام التنقل المستقل وسير العمل وجمع البيانات – ولكن يمكن خداعها بواسطة صفحات الويب الضارة لجمع ونقل المعلومات الحساسة مثل تفاصيل الحساب المصرفي وبيانات الاعتماد ورسائل البريد الإلكتروني.
“سعيد باختراقك 🙂”
قام محللو Gartner بتلخيص المتصفح الوكيل ليشمل ميزتين رئيسيتين:
- القدرة على التفاعل مع محتوى الويب باستخدام نموذج الذكاء الاصطناعي الخاص بالمطور، وتقديم وظائف مثل تلخيص المحتوى، وجمع البيانات، والترجمة، وقدرات البحث.
- القدرة على إكمال المهام بشكل مستقل على مواقع الويب، خاصة ضمن الجلسات المصادق عليها.
لا تسمح العديد من المتصفحات الوكيلة باستخدام وظائف الذكاء الاصطناعي داخل LLM محلي، مما يعني أن بيانات المستخدم، بدءًا من محتوى الويب إلى سجل التصفح وعلامات التبويب المفتوحة، “يتم إرسالها غالبًا إلى الواجهة الخلفية للذكاء الاصطناعي المستندة إلى السحابة، مما يزيد من خطر تعرض البيانات ما لم يتم تشديد إعدادات الأمان والخصوصية بشكل متعمد وإدارتها مركزيًا”.
في النهاية، يقع على عاتق كل مؤسسة على حدة إجراء تقييم للخدمات الخلفية لمتصفح الذكاء الاصطناعي لمعرفة ما إذا كانت متوافقة مع سياسات الأمن السيبراني وحماية البيانات الخاصة بالمؤسسة. ولكن حتى لو تم اجتيازها، فلا يزال من الممكن استخدامها بطريقة تشكل المزيد من المخاطر على المنظمة.
في هذه الحالة، قد يقوم المستخدم نفسه بتزويد المتصفح بكمية غير ضرورية من المعلومات الحساسة فقط من خلال فتح البيانات الحساسة في نفس نافذة متصفح الويب أثناء استخدام مساعد الذكاء الاصطناعي للمتصفح.
علاوة على ذلك، بما أن المتصفحات الوكيلة يمكنها إكمال الإجراءات بشكل مستقل، تحذر جارتنر من أن الموظفين قد “يميلون إلى استخدام متصفحات الذكاء الاصطناعي وأتمتة بعض المهام الإلزامية والمتكررة والأقل إثارة للاهتمام”، مثل التدريب على الأمن السيبراني.
تقترح جارتنر أن على المؤسسات التي تستمر في استخدام المتصفحات الوكيلة “تثقيف المستخدمين بأن أي شيء يشاهدونه يمكن إرساله إلى الواجهة الخلفية لخدمة الذكاء الاصطناعي للتأكد من عدم وجود بيانات حساسة للغاية نشطة في علامة تبويب المتصفح أثناء استخدام الشريط الجانبي لمتصفح الذكاء الاصطناعي لتلخيص أو تنفيذ إجراءات مستقلة أخرى.”
وتعليقًا على نصائح Gartner، قال جافاد مالك، كبير المدافعين عن التوعية الأمنية في KnowBe4:
“لقد أحدثت ميزات الذكاء الاصطناعي توترًا في مجال الأمن السيبراني، مما يتطلب من الأشخاص تقييم المفاضلة بين الإنتاجية والمخاطر الأمنية. في حين أن المتصفحات الوكيلة تعد بالعديد من الميزات لتحسين تجربة المستخدم، إلا أننا ما زلنا في المراحل الأولى حيث المخاطر غير مفهومة جيدًا وتعطي التكوينات الافتراضية الأولوية للراحة على الأمان، وهو أمر نراه في العديد من التقنيات.”
“ومع ذلك، نادرًا ما يكون الحظر الشامل بمثابة استراتيجيات مستدامة طويلة المدى. بدلاً من ذلك، يجب أن ينصب التركيز على تقييمات المخاطر التي تقيم خدمات الذكاء الاصطناعي المحددة التي تشغل هذه المتصفحات. وهذا يمكن أن يسمح بالاعتماد المدروس مع الحفاظ على الرقابة اللازمة. وبما أننا نجد المزيد والمزيد من عملاء الذكاء الاصطناعي يشقون طريقهم إلى كل جانب من جوانب التكنولوجيا، تحتاج المؤسسات إلى وضع قواعد تشغيل لتقييم عملاء الذكاء الاصطناعي وحمايتهم، وتمكينهم من العمل داخل المنظمة وفقًا لاحتياجاتهم الخاصة ورغبتهم في المخاطرة”.
عبر السجل
أفضل أجهزة الكمبيوتر المحمولة للأعمال لجميع الميزانيات
التعليقات