لقد استغرق الأمر بضع سنوات فقط حتى تصبح أدوات الذكاء الاصطناعي التوليدية مثل ChatGPT منتشرة في كل مكان في مجال الأعمال، ومن السهل معرفة السبب. لقد جلب الذكاء الاصطناعي التوليدي فوائد قابلة للقياس من حيث الإنتاجية والكفاءة والسرعة.
مع دخولنا عام 2026، هناك نوع جديد من الذكاء الاصطناعي هو محور اهتمام الأعمال والأمن: Agentic AI. وسيحقق الذكاء الاصطناعي الوكيل تحولًا أعمق بكثير.
المهندس الاستشاري الرئيسي XDR لأوروبا والشرق الأوسط وأفريقيا في Barracuda Networks.
الذكاء الاصطناعي الوكيل عبارة عن ذكاء متكيف وآلي ومستقل، قادر على تحديد الأهداف واتخاذ القرارات في الوقت الفعلي ثم تعديل سلوكه. يعمل وكلاء الذكاء الاصطناعي كمشغلين رقميين، حيث يقومون بجمع البيانات والتعلم من بيئاتهم وتنفيذ المهام المعقدة بأقل قدر من المدخلات البشرية.
تعتبر هذه القدرات مقنعة للمهاجمين السيبرانيين كما هي بالنسبة للمدافعين.
مشهد التهديد الجديد
يمكن للمهاجمين السيبرانيين استخدام عملاء الذكاء الاصطناعي لتشغيل حملة كاملة من البداية إلى النهاية. سيقوم مشغل الذكاء الاصطناعي الخبيث بإجراء الاستطلاع، وجمع البيانات المطلوبة، وتصميم إغراءات مقنعة للغاية، واختبار مسارات التسلل، ومراقبة كيفية تفاعل الدفاعات، ثم تعديل تكتيكاتها وتوقيتها في الوقت الفعلي.
إلى جانب المنصات الإجرامية المتخصصة، ستقوم بتحليل كميات هائلة من البيانات لتحديد نقاط الضعف تلقائيًا لاستغلالها، مع إنشاء برامج ضارة متعددة الأشكال قادرة على إعادة كتابة التعليمات البرمجية الخاصة بها لتجنب الاكتشاف القائم على التوقيع والسلوك.
ستشعر هذه الأدوات المتقدمة وكأنها عقل منسق يربط الخطوات معًا، ويتعلم من كل عقبة ويندمج في النشاط العادي.
ستستهدف التهديدات السيبرانية أيضًا عوامل الذكاء الاصطناعي الحميدة التي تستخدمها المؤسسات.
على سبيل المثال، تم تصميم وكلاء الذكاء الاصطناعي للعمل معًا لتحقيق هدف محدد، مع الحد الأدنى من الإشراف البشري أو بدونه. قد يكون من الممكن قريبًا للمهاجمين اختطاف أو تسميم مثل هذه التفاعلات بين الوكيل، حيث يتحكم المهاجمون في ما تفعله سلسلة الوكلاء بعد ذلك.
قد يؤدي عدم وجود البشر في الحلقة إلى تأخير الكشف والتخفيف.
بمعنى آخر، مع ظهور الذكاء الاصطناعي العميل، يجب على المدافعين أن يتوقعوا أنواعًا وتكتيكات هجومية جديدة لا تبدو مثل أي شيء رأوه من قبل والتي قد يكون من الصعب شرحها بعد وقوعها. يستمر سطح الهجوم في التوسع، مما يؤدي إلى خلق فجوات معروفة وغير معروفة، وسيزداد استغلال يوم الصفر.
المشهد التجاري الجديد
داخل المؤسسات، يمكن للذكاء الاصطناعي الوكيل أن يؤدي إلى تحسينات في الإنتاجية وصنع القرار. من خلال العمل كمساعدين أذكياء أو أعضاء فريق شبه مستقلين، يمكن لوكلاء الذكاء الاصطناعي إدارة المهام الإدارية المتكررة والإشراف على سير العمل وتقديم رؤى في الوقت الفعلي من مجموعات بيانات ضخمة.
يمكن للوكيل تخطيط وتجريب ومراجعة نهجه بناءً على ردود الفعل، مما يجعله متعدد الاستخدامات وفعالًا للغاية. في مجال الأمن السيبراني، يمكن للذكاء الاصطناعي الوكيل التعامل مع تحديثات البرامج، ومراقبة صحة الشبكة، وتنسيق الاستجابات للحوادث في عمليات تكنولوجيا المعلومات، أو تتبع المعاملات بشكل مستقل بحثًا عن الحالات الشاذة في التمويل لتقليل مخاطر الاحتيال.
ومن خلال دمجهم في مراكز العمليات الأمنية (SOCs)، سيتمكن عملاء الذكاء الاصطناعي من تولي حصة كبيرة من المهام الإدارية وإدارة نظام الأمان، مما يوفر الوقت للبحث عن التهديدات والبحث وهندسة الكشف.
وهذا سيسهل على محللي الأمن اكتشاف الهجمات المعقدة مع تقليل إرهاق التنبيه والإيجابيات الكاذبة – مما يؤدي إلى بناء بيئة أكثر أمانًا ومرونة عبر الإنترنت.
احتياجات الدفاع الجديدة
سيكون من الضروري للمؤسسات أن يكون لديها إجراءات أمنية مخصصة للأدوات القائمة على الذكاء الاصطناعي. قد تواجه آليات الدفاع التقليدية، مثل التوقيعات الثابتة وقواعد جدار الحماية، صعوبة في مواكبة سرعة التهديدات التي يحركها الذكاء الاصطناعي وقدرتها على التكيف. يجب أن تتطور أنظمة الأمن بشكل عاجل.
قد تكون القائمة التالية من الإجراءات الأمنية الجديدة أو المحسنة مكانًا جيدًا للبدء:
- تنفيذ دفاعات الذكاء الاصطناعي المبنية على السلوك: استخدم أدوات الكشف المدعومة بالذكاء الاصطناعي والتي تتعلم الأنماط السلوكية العادية وتحدد الحالات الشاذة في الوقت الفعلي. تخصيص هذه الحلول وتحسينها باستمرار.
- قم ببناء الأمان حول نظام أساسي موحد يتمتع برؤية شاملة: دمج الأمان عبر الهويات ونقاط النهاية وSaaS والسحابة والبريد الإلكتروني وحركة مرور الشبكة من أجل المراقبة الشاملة والكشف السريع عن التهديدات.
- إبقاء البشر في الحلقة: ضمان بقاء البشر مشاركين في اتخاذ القرارات الحاسمة والتحقيق والاستجابة. وينبغي للذكاء الاصطناعي أن يدعم المهنيين المهرة، وليس أن يحل محلهم.
- تعزيز الضوابط للذكاء الاصطناعي: تعامل مع كل وكيل للذكاء الاصطناعي باعتباره كيانًا فرديًا له هويته الخاصة وامتيازات الوصول. قم بتطبيق مبادئ الثقة المعدومة على وكلاء الذكاء الاصطناعي واطلب التحقق من كل إجراء.
- الاتصالات الآمنة التي يقودها الوكيل: قم بمصادقة وتشفير وتسجيل جميع التفاعلات بين الوكلاء والمستخدمين لاكتشاف ومنع هجمات التلاعب أو التسمم.
- تطوير الجيل القادم من قادة الأعمال: تزويد المديرين بالمهارات في إدارة الذكاء الاصطناعي، وتحليلات البيانات، ومعالجة اللغة الطبيعية لضمان التكامل المسؤول بين وكلاء الذكاء الاصطناعي.
- التوافق مع المعايير التنظيمية: اتبع أطر عمل مثل NIST AI Risk Management Framework للامتثال والتخفيف القوي للمخاطر.
خاتمة
مع نضوج الذكاء الاصطناعي الوكيل، لن يكون التحول الحقيقي مجرد أتمتة أسرع، بل عالم يتفاوض فيه الوكلاء الرقميون بهدوء ويتعاونون بل ويتنافسون نيابة عنا.
نحن نتحرك نحو نظام بيئي حيث تتشكل القرارات البشرية بشكل متزايد من خلال المحادثات بين الآلات التي لا نراها أبدًا، بما في ذلك عملاء الأمن، وعملاء الاحتيال، وعملاء الإنتاجية، وحتى العملاء الخبيثين.
لم يعد الذكاء الاصطناعي مفهومًا مستقبليًا؛ لقد وصل الأمر بالفعل، ويتعين علينا أن نتقبل هذا العصر بشكل مدروس بدلاً من التظاهر بأننا نستطيع الانسحاب منه.
أشعر بقلق متزايد بشأن المنظمات التي لا تبدأ في استخدام الذكاء الاصطناعي لحماية نفسها: إذا اعتمد المهاجمون الذكاء الاصطناعي الوكيل بينما ظل المدافعون يدويين بحتين، فإن الفجوة سوف تنمو لتصبح عيبًا نظاميًا.
سيتم تحديد مستقبل الأمن السيبراني من خلال مدى فهمنا لهذه التفاعلات غير المرئية بين الذكاء الاصطناعي والذكاء الاصطناعي وإدارتها ومواءمتها مع القيم الإنسانية، وليس فقط من خلال مدى سرعة صد التهديد التالي.
لقد عرضنا أفضل برامج التشفير.
تم إنتاج هذه المقالة كجزء من قناة Expert Insights التابعة لـ TechRadarPro حيث نعرض أفضل وألمع العقول في صناعة التكنولوجيا اليوم. الآراء الواردة هنا هي آراء المؤلف وليست بالضرورة آراء TechRadarPro أو Future plc. إذا كنت مهتمًا بالمساهمة، اكتشف المزيد هنا: https://www.techradar.com/news/submit-your-story-to-techradar-pro
التعليقات