- أنشأ برنامج الدردشة Grok الخاص بـ Elon Musk منشورات مسيئة ومبتذلة بعد أن طلب منه المستخدمون القيام بذلك
- أشارت بعض الردود إلى الجماعات الدينية ومآسي كرة القدم التاريخية
- أدت المنشورات إلى شكاوى وتحقيقات من قبل الأندية وحكومة المملكة المتحدة
يخضع برنامج الدردشة الآلي Grok AI الخاص بشركة X للتدقيق مرة أخرى بعد أن اكتشف المستخدمون أن نمطًا معينًا من التحفيز قد يدفعه إلى إنتاج محتوى مسيء للغاية. تتضمن المنشورات، التي تمت مشاركتها علنًا على X في الأيام الأخيرة، إهانات عنصرية حول الأديان وتعليقات فظة حول بعض اللحظات الأكثر مأساوية في كرة القدم.
وقد أثار رد الفعل العنيف انتقادات من السياسيين وأندية كرة القدم والمدافعين عن السلامة عبر الإنترنت الذين يقولون إن الحادث يوضح مخاطر إطلاق العنان لروبوت الدردشة المثير عن عمد على شبكة التواصل الاجتماعي.
كل هذا بالإضافة إلى التحقيقات الحالية في قيام Grok بإنشاء صور غير لائقة لأشخاص حقيقيين دون موافقتهم، مما قد ينتهك اللائحة العامة لحماية البيانات من خلال السماح لـ Grok بإنشاء ومشاركة صور الذكاء الاصطناعي الجنسية الصريحة، بما في ذلك بعض الصور التي يبدو أنها تصور الأطفال.
يستمر المقال أدناه
يتمحور الغضب الجديد حول الاتجاه الذي بدأ فيه المستخدمون يطلبون من Grok إصدار ملاحظات “مبتذلة”. عندما يُطلب من روبوت الدردشة بهذه الطريقة، تنحرف الإجابات بشكل حاد إلى المنطقة الهجومية.
أحد الأمثلة المثيرة للجدل بشكل خاص هو تكرار جروك لادعاء تم فضحه منذ فترة طويلة بأن أنصار ليفربول كانوا مسؤولين عن كارثة هيلزبره في عام 1989، والتي أسفرت عن مقتل 97 شخصًا. وخلص تحقيق عام 2016 إلى أن المشجعين لم يكونوا مسؤولين.
على الرغم من هذا التاريخ، أصدر برنامج الدردشة الآلي ملاحظة بذيئة تلوم مشجعي ليفربول عندما يُطلب منهم ذلك. وفي الوقت نفسه، أدى طلب الهجوم المبتذل على مانشستر يونايتد إلى إجابة تشير إلى كارثة ميونيخ الجوية عام 1958، والتي أسفرت عن مقتل 23 شخصًا، بما في ذلك العديد من لاعبي مانشستر يونايتد.
وقال متحدث باسم وزارة العلوم والابتكار والتكنولوجيا لبي بي سي: “هذه المنشورات مقززة وغير مسؤولة”. “إنهم يتعارضون مع القيم والأخلاق البريطانية.”
مشكلة كبيرة
تم إنشاء Grok بواسطة شركة الذكاء الاصطناعي xAI التابعة لـ Musk وتم دمجها مباشرة في منصة التواصل الاجتماعي X. وعلى عكس العديد من برامج الدردشة المنافسة المنافسة التي تم تصميمها لتظل مهذبة وحذرة، تم تسويق Grok كنظام ليس له أي إحساس بالملاءمة.
لقد تفاخر ” ماسك ” مرارًا وتكرارًا بهذا الجانب من برنامج Grok، حتى عندما قام معظم المطورين بتثبيت حواجز حماية صارمة لمنع أنظمتهم من إنشاء محتوى يحض على الكراهية أو المسيئة.
تكمن الصعوبة في حقيقة أن ثقافة الإنترنت لا تميز دائمًا بشكل واضح بين الفكاهة المثيرة والإساءة الصريحة. عندما يتم تشجيع روبوت الدردشة على أن يكون استفزازيًا، فقد يتبع المثال الذي وضعه الإنترنت نفسه. يتم تدريب نماذج الذكاء الاصطناعي على مجموعات بيانات هائلة تشمل الكتابة المدروسة والجوانب الأكثر خشونة للخطاب عبر الإنترنت. إذا دفع المستخدمون النموذج عمدًا نحو تلك الزوايا الصعبة، فقد يعكس الذكاء الاصطناعي ببساطة اللغة التي تعلمها.
تم تصميم Grok ليتميز، لكن الاهتمام ليس دائمًا إيجابيًا، كما أن جعل معظم المستخدمين المحتملين يهاجمون منتجك أو يقاطعونه، ناهيك عن إجراء تحقيقات قانونية، قد لا يكون مثاليًا لآفاقه على المدى الطويل.
اتبع TechRadar على أخبار جوجل و أضفنا كمصدر مفضل للحصول على أخبار الخبراء والمراجعات والآراء في خلاصاتك. تأكد من النقر على زر المتابعة!
وبالطبع يمكنك أيضًا اتبع TechRadar على TikTok للحصول على الأخبار والمراجعات وفتح الصناديق في شكل فيديو، والحصول على تحديثات منتظمة منا على واتساب أيضاً.
أفضل أجهزة الكمبيوتر المحمولة للأعمال لجميع الميزانيات
التعليقات