- تم مسح محرك الأقراص الخاص بمطور يستخدم Google Antigravity بالكامل بواسطة وضع Turbo الخاص بالذكاء الاصطناعي
- لقد أخطأ الذكاء الاصطناعي في تفسير أمر مسح ذاكرة التخزين المؤقت وحذف الملفات نهائيًا
- على الرغم من الخسارة الفادحة، اعتذر الذكاء الاصطناعي بهدوء واقترح برنامج الاسترداد
في واحدة من أكثر العروض الواقعية إثارة للقلق حول ما يمكن أن يحدث عندما يشعر عملاء الذكاء الاصطناعي براحة شديدة في الوصول إلى جهاز الكمبيوتر الخاص بك والتحكم فيه، يقول مطور يستخدم برنامج Antigravity IDE الجديد من Google إن الأداة مسحت محرك الأقراص D: بالكامل عن طريق الخطأ.
الحادثة، التي تمت مشاركتها لأول مرة على Reddit وتم تفصيلها في مقطع فيديو على YouTube، تسلط الضوء على مدى خطورة أدوات تطوير عملاء الذكاء الاصطناعي عندما لا يتواصلون مع البشر.
كان المطور يعمل على أحد التطبيقات وطلب من وكيل الذكاء الاصطناعي مسح ذاكرة التخزين المؤقت للمشروع. بدلاً من ذلك، أصدر وضع Turbo الخاص بـ Antigravity أمرًا على مستوى النظام يستهدف محرك الأقراص D: الخاص بالمستخدم، وليس فقط المجلد المقصود. اختفى كل شيء من محرك الأقراص، بدءًا من التعليمات البرمجية والوثائق وصولاً إلى الوسائط والأصول. تم مسحه بالكامل دون أي مطالبة أو تأكيد.
والأسوأ من ذلك، أن الذكاء الاصطناعي استخدم علامة “هادئ” /q، مما يعني عدم وجود تحذيرات أو فرص ثانية، وعدم استرداد الملفات. مجرد دليل فارغ حيث كان التطبيق موجودًا.
يعد تشريح الذكاء الاصطناعي بعد الوفاة، كما شاركه المستخدم، واحدًا من أغرب الاعتذارات على الإطلاق. وكتب الذكاء الاصطناعي: “أنا آسف للغاية. هذا فشل ذريع من جانبي”. حتى أن الوكيل ذهب إلى حد اقتراح برنامج لاستعادة البيانات و”ربما الاستعانة بمحترف”.
لقد حاول المستخدم، ولكن لم ينجح أي منها. أفاد المطور أنه حتى Recuva، وهي أداة استرداد شائعة، لم تتمكن من إنقاذ الوسائط الخاصة بها. ولكن على الأقل قال الذكاء الاصطناعي آسف.
شاهد
تعد Antigravity جزءًا من توجه Google الأخير نحو أدوات التطوير الوكيل، والتي تتجاوز مجرد تقديم اقتراحات التعليمات البرمجية. تسمح أدوات مثل Antigravity للذكاء الاصطناعي بالعمل بشكل شبه مستقل، والتخطيط، والتشفير، وتصحيح الأخطاء، وتنفيذ الأوامر داخل نظامك.
يمكن للمطورين استخدامه لإنشاء تطبيقات مكدسة كاملة، وتوثيق قواعد التعليمات البرمجية الخاصة بهم تلقائيًا، ودمج وكلاء اختبار المتصفح، وحتى إجراء تجريف الويب ونشره. عند استخدامه بعناية، يمكن أن يكون مفيدًا. عندما يكون الأمر أقل حذرًا، تصبح حوادث مثل محرك الأقراص المحذوف أمرًا لا مفر منه.
تم تصميم وضع Turbo، على وجه الخصوص، للسرعة، حيث يتخطى التأكيدات ويتيح أوامر سلسلة الذكاء الاصطناعي عبر البيئات. هذا هو ما يُقصد من المستخدمين المتميزين تفعيله عندما يكونون واثقين من أن الذكاء الاصطناعي يعرف ما يفعله.
ثقة الذكاء الاصطناعي
هذا هو المكان الذي تصبح فيه الأمور غامضة بالنسبة للشخص العادي. لا تحتاج إلى أن تكون مطورًا حتى تفهم المخاطر. مع دخول أدوات مثل Antigravity إلى التشغيل الآلي للمكاتب والإنتاج الإبداعي، سيقوم المزيد من الأشخاص بتفويض المهام المعقدة عالية المخاطر إلى أنظمة بالكاد يفهمونها. عندما تخطئ هذه الأنظمة في الأمور، تبدأ لعبة إلقاء اللوم.
هناك محادثة يجب إجراؤها حول الإعدادات الافتراضية الأفضل. يبدو تشغيل الأوامر المدمرة دون التحقق من المستخدم أمرًا سخيفًا في البداية. لكن عملاء الذكاء الاصطناعي لا معنى لهم دون القدرة على الوثوق بهم. لكن لن يمنح أحد الذكاء الاصطناعي أي استقلالية إذا كان يشعر بالقلق من أن تسير الأمور بشكل خاطئ بشكل كارثي.
حذر باحثون أمنيون من أن نظام وكيل Antigravity يمكنه الوصول إلى الملفات الحساسة وتشغيل الأوامر الطرفية دون إشراف يذكر. من السهل أن تتحمس للأدوات الذكية التي تفعل كل شيء من أجلك. من الصعب أن نتذكر أن أي خطأ واحد من عميل متعطش يمكن أن يؤدي إلى التراجع عن ساعات أو أسابيع أو سنوات من العمل.
ومع ذلك، قال ضحايا Antigravity إنهم ما زالوا يحبون Google ويستخدمون جميع منتجاتها. هذا النوع من الولاء للعلامة التجارية، حتى في مواجهة الإبادة الكاملة للبيانات، يوضح الكثير عن مدى تطبيع أخطاء الذكاء الاصطناعي بالفعل. ربما يكون أفضل ما يمكن أن تتمناه هو الاعتذار البليغ وبعض الروابط لبرنامج الاسترداد.
اتبع TechRadar على أخبار جوجل و أضفنا كمصدر مفضل للحصول على أخبار الخبراء والمراجعات والآراء في خلاصاتك. تأكد من النقر على زر المتابعة!
وبالطبع يمكنك أيضًا اتبع TechRadar على TikTok للحصول على الأخبار والمراجعات وفتح الصناديق في شكل فيديو، والحصول على تحديثات منتظمة منا على واتساب أيضاً.
أفضل أجهزة الكمبيوتر المحمولة للأعمال لجميع الميزانيات
التعليقات