لا تحتاج إلى أن أذكرك بأن الذكاء الاصطناعي موجود الآن في كل مكان وفي طليعة جداول أعمال كبار المسؤولين على مستوى العالم. لكن التأثير الأقل مناقشة لهذا هو كيف تحولت الثقة بشكل جذري نتيجة لذلك – لكل من الأفراد والشركات.
إن ما كان يسترشد ذات يوم بالغريزة والحدس أصبح الآن قابلاً للقياس الكمي والاختبار والتحليل الآلي. ومع ذلك، على الرغم من ظهور التكنولوجيا المتطورة، لا يزال المهاجمون يستهدفون الحلقة الأكثر ضعفا: البشر.
باحث رئيسي في وحدة شبكات بالو ألتو 42.
يكشف تقريرنا الأخير عن الاستجابة للحوادث العالمية: إصدار الهندسة الاجتماعية أن 36% من جميع الحوادث الإلكترونية تبدأ بالهندسة الاجتماعية – وهو دليل واضح على أن العنصر البشري يظل نقطة الدخول المفضلة لمجرمي الإنترنت.
يقوم الذكاء الاصطناعي بإعادة كتابة قواعد ساحة المعركة هذه. ومن الواضح أنها تمنح المجرمين قوة غير مسبوقة لتقليد النبرة والتوقيت والعاطفة البشرية بدقة خارقة، في حين تزود المدافعين في الوقت نفسه بأدوات متقدمة للكشف عن الخداع والتحقق المستمر من النزاهة.
والنتيجة هي صراع عالي المخاطر حول الثقة ذاتها: من يسيطر عليها، ومن يستغلها، ومن يحميها.
ولم تعد القدرة على الصمود تتوقف على الإيمان الأعمى بالتكنولوجيا وحدها. يعتمد ذلك على مدى فعالية الشركات في إدارة الثقة بين الأشخاص والعمليات والأنظمة الذكية التي لا تهدأ أبدًا.
لماذا أصبحت الثقة الآن هي سطح الهجوم الأساسي؟
على الرغم من التقدم الكبير في مجال الأتمتة والكشف، فإن معظم الانتهاكات الكبرى لا تزال تبدأ بقرار بشري واحد. قد تكون نقرة، أو بيانات اعتماد مشتركة، أو محادثة تبدو روتينية. تزدهر الهندسة الاجتماعية في هذه اللحظات اليومية – حيث تضعف الألفة الحذر، ويخفي المهاجمون التلاعب في صورة ثقة.
المهاجمون بعيدون كل البعد عن التخمين؛ إنهم يدرسون الديناميكيات التنظيمية والسلوكيات الفردية بحماس طالب دكتوراه – بدون الأخلاق. تمزج العديد من الحملات الآن بين تكتيكات متعددة، بدءًا من الاحتيال عبر الرسائل النصية القصيرة والتصيد الاحتيالي ووصولاً إلى قصف MFA (المصادقة المتعددة العوامل)، لإرهاق اليقظة.
يسلط بحثنا الضوء على أن 65% من هجمات الهندسة الاجتماعية استخدمت أساليب التصيد الاحتيالي، حيث استهدفت 66% منها الحسابات المميزة و45% منها انتحال شخصية موظفين داخليين.
وهذا يوضح أنه على الرغم من أن التصيد الاحتيالي لا يزال هو المهيمن، إلا أن التعقيد يكمن في السياق: الرسائل التي تبدو وكأنها زملاء، أو تحاكي الأعمال المشروعة أو تمتزج بشكل طبيعي مع سير العمل المستمر.
ما يجعل هذه الموجة خطيرة للغاية هو قدرتها على التكيف. كل محاولة فاشلة تعزز ما يليها، حيث تعلم الخصوم الذين يعتمدون على الذكاء الاصطناعي كيفية استجابة البشر تحت الضغط. تسمح هذه الهجمات للجهات الفاعلة في مجال التهديد بتصعيد الامتيازات بسرعة، والانتقال في بعض الأحيان من الوصول الأولي إلى مسؤول المجال في أقل من 40 دقيقة، دون نشر أي برامج ضارة.
تستغل الهجمات إلى حد كبير فجوات التحكم وإرهاق التنبيه: فقد نجحت 13% من حالات الهندسة الاجتماعية بسبب تجاهل التنبيهات الحرجة أو تصنيفها بشكل خاطئ. يتطلب هذا الواقع تركيزًا أقوى على الكشف السلوكي بدلاً من الاعتماد فقط على الضوابط الفنية.
يتطلب الدفاع ضد الهندسة الاجتماعية ما هو أكثر بكثير من مجرد التدريب على التوعية؛ فهو يتطلب أنظمة قادرة على اكتشاف الانحرافات قبل استغلال الثقة.
كيف يمكن للدفاع القائم على الذكاء الاصطناعي تحديد الحالات الشاذة السلوكية قبل حدوث الضرر
نلاحظ أنه مع تسارع هجمات الذكاء الاصطناعي، يستجيب المدافعون بالمثل، حيث يقومون بتسخير الذكاء الآلي لكشف ما لا تستطيع العين البشرية رؤيته. تكمن الحدود التالية للأمن السيبراني في التحليلات السلوكية: اكتشاف الانحرافات الدقيقة التي تشير إلى الخداع قبل حدوث الضرر.
لا ينبغي لنا أن نبالغ في التأكيد على الإمكانات الهجومية للذكاء الاصطناعي. تكمن الفرصة الحقيقية في بناء قدراتنا الرئيسية في مجال الذكاء الاصطناعي – الأنظمة التي تفهم الخطوط الأساسية السلوكية، وتكشف عن الحالات الشاذة، وتتحقق بشكل مستمر من صحة الهوية في الوقت الفعلي.
هذا أكثر من مجرد ترقية دفاعية. إنه تحول في الحكم. فهو يسمح للمؤسسات بتضمين التحقق وراء كل فعل ثقة وكل حدث وصول، مما يضمن اكتساب الثقة.
تقوم أدوات الدفاع المعتمدة على الذكاء الاصطناعي الآن بتحليل كل شيء بدءًا من نغمة الاتصال وحتى أنماط تسجيل الدخول، واكتشاف التناقضات التي تشير إلى التلاعب أو انتحال الهوية.
تتعلم هذه الأنظمة باستمرار كيف يبدو الوضع “العادي” داخل المؤسسة، مثل كيفية تعاون الفرق، ومتى يتم تسجيل الدخول إلى الحسابات، واللغة التي يستخدمها الموظفون، والإبلاغ عن الحالات الشاذة في الوقت الفعلي. للدفاع بشكل فعال، يجب علينا استخدام الذكاء الاصطناعي لمحاربة الذكاء الاصطناعي.
يمكن لهذا النهج الاستباقي أن يعزز الأمن من الدرع التفاعلي إلى النظام الاستباقي. بدلاً من انتظار التنبيهات بعد الاختراق، تظهر نماذج الكشف مؤشرات مبكرة للاختراق، حتى في حالة عدم ظهور أي استغلال تقني.
وبهذه الطريقة، يعمل الذكاء الاصطناعي كمجهر وجرس إنذار، حيث يوجه المحللين البشريين نحو اللحظات التي تبدأ فيها الثقة في الانهيار.
ماذا تعني عقلية “حوكمة الثقة” بالنسبة لأمن المؤسسة
ولم يعد بإمكان الشركات التعامل مع الثقة باعتبارها قيمة ميسرة. ويجب إدارتها مثل أي أصول تشغيلية أخرى. تعمل عقلية حوكمة الثقة على إعادة صياغة إمكانية الوصول والتحقق والمساءلة كعناصر قابلة للقياس في الوضع الأمني. ويعني بناء أنظمة حيث يتم اكتساب الثقة، والتحقق من صحتها، وإلغائها تلقائيًا عند الضرورة.
ومن الناحية العملية، يتضمن ذلك تطبيق مبادئ الثقة المعدومة خارج الشبكات والأجهزة لتشمل الأشخاص والعمليات. يتم تقييم الأدوار والسلوكيات والعلاقات بشكل مستمر وفقًا لإشارات المخاطر، مما يضمن توافق الترخيص مع السياق في الوقت الفعلي.
تعمل الرؤية الواضحة عبر المستخدمين والموردين وأنظمة الذكاء الاصطناعي على تحويل الثقة إلى شيء يمكن ملاحظته وتدقيقه بدلاً من افتراضه.
عندما تحكم المؤسسات الثقة، فإنها تحولها من ثغرة أمنية إلى طبقة دفاع. فهو يخلق نسيجًا أمنيًا حيًا – نسيجًا يتكيف مع المخاطر الجديدة بالسرعة التي يطور بها المهاجمون تكتيكاتهم.
لقد أصبحت الثقة الهدف الأساسي والأصل الأكثر حيوية. لا يقتصر دور الذكاء الاصطناعي على تصعيد المخاطر من خلال تمكين هجمات أكثر تعقيدًا؛ كما أنه يمكّن المدافعين من التصرف بشكل أسرع وأكثر ذكاءً.
ومن خلال دمج التحليلات السلوكية المعتمدة على الذكاء الاصطناعي وحوكمة الثقة في الأطر الأمنية، يمكن للمؤسسات التحول من الاستجابة للانتهاكات إلى توقعها ومنعها.
وفي نهاية المطاف، سوف تتوقف المرونة على قدرتنا على إدارة الثقة بشكل مستمر وبذكاء ــ وتحويلها من نقطة ضعف إلى دفاع ديناميكي يتكيف في الوقت الحقيقي.
لقد عرضنا أفضل برامج التشفير.
تم إنتاج هذه المقالة كجزء من قناة Expert Insights التابعة لـ TechRadarPro حيث نعرض أفضل وألمع العقول في صناعة التكنولوجيا اليوم. الآراء الواردة هنا هي آراء المؤلف وليست بالضرورة آراء TechRadarPro أو Future plc. إذا كنت مهتمًا بالمساهمة، اكتشف المزيد هنا: https://www.techradar.com/news/submit-your-story-to-techradar-pro
التعليقات