- يتطلب قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي إمكانية شرح الذكاء الاصطناعي ومساءلته
- يستطيع 38% فقط من العمال تحديد الأشخاص المسؤولين في أعمالهم بدقة
- أكثر من النصف (59٪) ليسوا متأكدين من مدى السرعة التي يمكنهم بها إيقاف الذكاء الاصطناعي في الأزمات
على الرغم من التبني السريع للذكاء الاصطناعي، تشير الأبحاث الجديدة التي أجرتها ISACA إلى أن العديد من الشركات قد تتصرف بشكل أعمى – أكثر من النصف (59%) من الشركات في المملكة المتحدة لا تعرف حتى مدى السرعة التي يمكنها بها إيقاف الذكاء الاصطناعي أثناء الأزمات.
يقول واحد فقط من كل خمسة (21%) إنهم يشعرون بالثقة في إيقاف نظام الذكاء الاصطناعي في غضون 30 دقيقة، مما يسلط الضوء على فجوات السلامة الرئيسية.
ولا يقتصر الأمر على إغلاقها فقط، فهذه مشكلة – ولا يقول حتى نصفهم (42٪) إنهم يستطيعون تفسير فشل الذكاء الاصطناعي للقيادة أو المنظمين.
يستمر المقال أدناه
هل الشركات غافلة عن مخاطر الذكاء الاصطناعي؟
وأوضحت ISACA أن الفجوات لا تتعلق فقط بالعمليات التجارية والسمعة، ولكن أيضًا بالإطار التشريعي. يتطلب قانون الذكاء الاصطناعي للاتحاد الأوروبي التوضيح والمساءلة.
ويعود جزء من الفشل إلى عدم وضوح المساءلة، حيث أن 20% من العمال غير متأكدين من المسؤول عن فشل الذكاء الاصطناعي. يعد ضعف الرؤية أيضًا أحد العوامل المساهمة، حيث لا تطلب واحدة من كل ثلاث منظمات الكشف عن استخدام الذكاء الاصطناعي في العمل، وهو ما تقول ISACA إنه كابوس للنقاط العمياء.
ويوضح التقرير أن الشركات التي تتعامل معها حاليًا هي مشكلة فنية، ولكن يجب عليها بدلاً من ذلك التركيز على أنها تمثل تحديًا للحوكمة على مستوى المنظمة. وكتب كريس ديميترياديس، كبير مسؤولي الإستراتيجية العالمية: “إن سد الفجوة حقًا لا يمكن أن يتم من خلال تغييرات العمليات وحدها”. “بدلاً من ذلك، سوف يتطلب الأمر متخصصين لديهم الخبرة لتقييم مخاطر الذكاء الاصطناعي بدقة، ودمج الرقابة عبر دورة الحياة الكاملة.”
وبالنظر إلى المستقبل، يتم حث الشركات على تحديد المساءلة على المستوى الأعلى والبدء في تقديم رؤية وتدقيق أفضل. بالإضافة إلى ذلك، يجب عليهم أيضًا دمج الاستجابة لحوادث الذكاء الاصطناعي في استراتيجياتهم وإدراجها في مواقف الأمن السيبراني الأوسع الخاصة بهم.
مع تعريف 38% فقط من المشاركين بأن مجلس الإدارة أو المدير التنفيذي هو المسؤول في حالة وقوع حادث يتعلق بالذكاء الاصطناعي، فمن الواضح أن هناك حاجة إلى بذل المزيد من الجهود لنشر المعلومات والعمليات من خلال القوى العاملة.
اتبع TechRadar على أخبار جوجل و أضفنا كمصدر مفضل للحصول على أخبار الخبراء والمراجعات والآراء في خلاصاتك. تأكد من النقر على زر المتابعة!
وبالطبع يمكنك أيضًا اتبع TechRadar على TikTok للحصول على الأخبار والمراجعات وفتح الصناديق في شكل فيديو، والحصول على تحديثات منتظمة منا على واتساب أيضاً.
التعليقات