كان هناك عرض لا نهاية له من التصريحات على مدى السنوات القليلة الماضية حول العصر الذهبي للذكاء الاصطناعي. يعلن المطورون عن ثورة صناعية جديدة، ويعد المسؤولون التنفيذيون بإنتاجية سلسة وتحقيق إنجازات مذهلة يتم تسريعها بواسطة الذكاء الآلي. يبدو أن كل منتج جديد يتباهى بقدراته على الذكاء الاصطناعي، مهما كانت غير ضرورية.
لكن هذا اللمعان الذهبي له حافة أغمق. هناك المزيد من الدلائل على أن المشكلات المتعلقة بتكنولوجيا الذكاء الاصطناعي ليست مسألة صغيرة يجب إصلاحها في التحديث القادم، ولكنها عنصر مستمر لا مفر منه في التكنولوجيا ونشرها. تنبع بعض المخاوف من الأساطير حول الذكاء الاصطناعي، لكن هذا لا يعني أنه لا يوجد ما يدعو للقلق. حتى لو لم تكن التكنولوجيا مخيفة، فإن كيفية استخدام الناس لها يمكن أن تكون مخيفة للغاية. ويبدو أن الحلول التي يقدمها أكبر أنصار حلول الذكاء الاصطناعي غالبا ما تؤدي إلى تفاقم الأمور.
1. فرار خبراء سلامة الذكاء الاصطناعي
في هذا الشهر، استقال رئيس قسم أبحاث سلامة الذكاء الاصطناعي في شركة أنثروبيك، وقام بذلك بصوت عالٍ. وفي بيان عام، حذر من أن “العالم في خطر” وتساءل عما إذا كانت القيم الأساسية لا تزال توجه قرارات الشركة. قرر أحد كبار الشخصيات، الذي كانت مهمته التفكير في المدى الطويل وكيف يمكن أن تسوء الأنظمة ذات القدرات المتزايدة، أنه من المستحيل الاستمرار. وجاءت رحيله بعد سلسلة من عمليات الخروج الأخرى في جميع أنحاء الصناعة، بما في ذلك المؤسسون وكبار الموظفين في شركة xAI وغيرها من المختبرات رفيعة المستوى. وكان من الصعب تجاهل هذا النمط.
بالطبع، تحدث الاستقالات في مجال التكنولوجيا طوال الوقت، لكن هذه الاستقالات تأتي مغلفة باهتمام أخلاقي. وكانت مصحوبة بمقالات ومقابلات تصف المناقشات الداخلية حول معايير السلامة، والضغوط التنافسية، وما إذا كان السباق لبناء نماذج أكثر قوة يتجاوز القدرة على السيطرة عليها. عندما يبدأ الأشخاص المكلفون بتثبيت المكابح بالابتعاد عن السيارة، فهذا يشير إلى أن السيارة قد تتسارع بطرق يجدها حتى المطلعون مثيرة للقلق.
تعمل شركات الذكاء الاصطناعي على بناء أنظمة من شأنها تشكيل الاقتصادات والتعليم والإعلام، وربما الحرب. وإذا شعر قادة السلامة في بلدانهم بأنهم مجبرون على التحذير من أن العالم ينحرف إلى منطقة خطيرة، فإن هذا التحذير يستحق أكثر من مجرد تجاهل.
2. مخاطر التزييف العميق
من الصعب القول بوجود مشكلة في سلامة الذكاء الاصطناعي عندما يجد المنظمون في المملكة المتحدة وأماكن أخرى أدلة موثوقة على سوء استخدام مروع للذكاء الاصطناعي، مثل التقارير التي تفيد بأن Grok on X قد أنشأ صورًا جنسية صريحة ومسيئة، بما في ذلك محتوى مزيف يتضمن قاصرين.
لا يعني ذلك أن التزييف العميق أمر جديد، ولكن الآن، مع المطالبات الصحيحة وبضع دقائق من الصبر، يمكن للمستخدمين إنتاج صور ملفقة كانت تتطلب خبرة فنية كبيرة قبل بضع سنوات فقط. ليس لدى الضحايا سوى القليل من الموارد بمجرد انتشار الصور التي تم التلاعب بها عبر ذاكرة الإنترنت.
من وجهة نظر نهاية العالم، لا يتعلق الأمر بفضيحة واحدة. يتعلق الأمر بالتآكل. وكانت الثقة في الأدلة المرئية هشة بالفعل. الآن هو تكسير. إذا كان من الممكن رفض أي صورة بشكل معقول باعتبارها مصطنعة، ويمكن وضع أي شخص رقميًا في مواقف مساومة، فإن الأرضية الواقعية المشتركة تحت الخطاب العام تبدأ في التلاشي. والنقطة المقابلة المأمولة هي أن الهيئات التنظيمية تولي اهتماما وأن مشغلي المنصات يضطرون إلى مواجهة سوء الاستخدام. ومن الممكن أن تعمل الضمانات الأقوى، وأدوات الكشف الأفضل، والمعايير القانونية الأكثر وضوحا، على تخفيف أسوأ النتائج، ولكن هذا لن يزيل الضرر الذي وقع بالفعل.
3. هلاوس العالم الحقيقي
لسنوات عديدة، كانت معظم حالات فشل الذكاء الاصطناعي تعيش على الشاشات، لكن هذه الحدود بدأت تتلاشى حيث بدأت أنظمة الذكاء الاصطناعي في المساعدة في توجيه السيارات، وتنسيق روبوتات المستودعات، وتوجيه الطائرات بدون طيار. إنهم يفسرون بيانات المستشعر ويتخذون قرارات في أجزاء من الثانية في العالم المادي. وقد حذر الباحثون الأمنيون من أن هذه الأنظمة سهلة الخداع بشكل مدهش.
أثبتت الدراسات أن التغيرات البيئية الطفيفة، أو علامات الطريق المتغيرة، أو الملصقات الموضوعة بشكل استراتيجي، أو النصوص المضللة يمكن أن تتسبب في قيام أنظمة رؤية الذكاء الاصطناعي بتصنيف الأشياء بشكل خاطئ. في المختبر، قد يعني ذلك إشارة توقف يتم تفسيرها على أنها علامة حد للسرعة. على طريق مزدحم، قد يعني ذلك شيئا أسوأ بكثير. يمكن أن تشكل الجهات الفاعلة الخبيثة تهديدًا ناشئًا. كلما زاد اعتماد البنية التحتية على عملية صنع القرار باستخدام الذكاء الاصطناعي، كلما أصبحت أكثر جاذبية كهدف.
الخيال المروع يقفز بسرعة من هناك. ومن الناحية المثالية، فإن الوعي بنقاط الضعف هذه سيدفع الاستثمار في الممارسات الأمنية القوية قبل أن تصبح الأنظمة المستقلة في كل مكان. ولكن إذا تجاوز النشر معايير السلامة، فمن الممكن أن نتعلم جميعاً بعض الدروس المؤلمة في الوقت الحقيقي
4. لدى Chatbots فريق مبيعات
بدأت OpenAI في طرح الإعلانات داخل ChatGPT مؤخرًا، وكانت الاستجابة متباينة، على أقل تقدير. أحد كبار الباحثين في OpenAI استقال علنًا وجادل بأن منتجات الذكاء الاصطناعي التي تعتمد على الإعلانات تخاطر بالانجراف نحو التلاعب بالمستخدم ربما لم يساعد في تهدئة الأمور. عندما يحمل النظام الذي يعرف مخاوفك وطموحاتك وعاداتك حوافز تجارية، فإن الخطوط الفاصلة بين المساعدة والإقناع تتلاشى.
ذات يوم، وعدت منصات التواصل الاجتماعي باتصالات بسيطة ومشاركة المعلومات، لكن نماذج أعمالها القائمة على الإعلانات شكلت خيارات التصميم التي أدت إلى تعظيم المشاركة، وأحيانا على حساب رفاهية المستخدم. وقد يواجه مساعد الذكاء الاصطناعي المدمج في الإعلانات ضغوطًا مماثلة. تحديد أولويات دقيقة لبعض الإجابات. الوكزات التي تتوافق مع مصالح الراعي. تم معايرة التوصيات ليس فقط من حيث الملاءمة ولكن أيضًا من حيث الإيرادات.
لكي نكون منصفين، لا يؤدي الإعلان إلى إفساد المنتج تلقائيًا. إن وضع العلامات الواضحة، وجدران الحماية الصارمة بين تحقيق الدخل وسلوك النموذج الأساسي، والرقابة التنظيمية يمكن أن تمنع أسوأ السيناريوهات. ومع ذلك، فإن هذه الاستقالة تعني أن هناك توتراً حقيقياً لم يتم حله في هذا الصدد.
5. قائمة متزايدة من الحوادث المؤسفة
هناك تراكم بسيط للأدلة على مشاكل الذكاء الاصطناعي. بين نوفمبر 2025 ويناير 2026، سجلت قاعدة بيانات حوادث الذكاء الاصطناعي 108 حوادث جديدة. يوثق كل إدخال فشلًا أو سوء استخدام أو نتيجة غير مقصودة مرتبطة بأنظمة الذكاء الاصطناعي. قد تكون العديد من الحالات بسيطة، لكن كل تقرير عن استخدام الذكاء الاصطناعي للاحتيال أو تقديم نصائح خطيرة يزيد الأمر تعقيدًا.
التسارع هو ما يهم هنا. تظهر أدوات الذكاء الاصطناعي في كل مكان، وبالتالي يتضاعف عدد المشاكل. ربما يكون الارتفاع في الحوادث المبلغ عنها مجرد إشارة إلى تحسن التتبع بدلاً من تدهور الأداء، ولكن من المشكوك فيه أن هذا هو السبب في كل شيء. التكنولوجيا التي لا تزال جديدة نسبيًا لها ضرر كبير على اسمها.
نهاية العالم هي كلمة محملة تستحضر صور الانهيار والنهاية. قد لا يصل الذكاء الاصطناعي إلى هذه المرحلة وربما لا يصل إليها أبدًا، لكنه يسبب بلا شك الكثير من الاضطرابات. إن الكارثة ليست حتمية، ولكن الرضا عن النفس سيكون خطأً. قد لا تكون هذه نهاية العالم، لكن من المؤكد أن الذكاء الاصطناعي يمكنه أن يجعل الأمر يشعر بهذه الطريقة.
اتبع TechRadar على أخبار جوجل و أضفنا كمصدر مفضل للحصول على أخبار الخبراء والمراجعات والآراء في خلاصاتك. تأكد من النقر على زر المتابعة!
وبالطبع يمكنك أيضًا اتبع TechRadar على TikTok للحصول على الأخبار والمراجعات وفتح الصناديق في شكل فيديو، والحصول على تحديثات منتظمة منا على واتساب أيضاً.
أفضل أجهزة الكمبيوتر المحمولة للأعمال لجميع الميزانيات
التعليقات