ماذا حدث: هذا مرعب جدا. يجد الناس مقاطع فيديو تم إنشاؤها بواسطة الذكاء الاصطناعي على TikTok وX (التطبيق الذي لا نزال نسميه جميعًا Twitter) والتي تظهر خنق النساء والفتيات.
- هذه ليست رسوم متحركة. تبدو واقعية بشكل مخيف. المقاطع قصيرة، ربما 10 ثوانٍ، ولها عناوين فظيعة مثل “A Teenage Girl Cheerleader Was Strangled”، والتي تظهر “نساء” اصطناعيات يبكين ويكافحن.
- ويشير المحققون إلى أن الكثير من مقاطع الفيديو هذه تحتوي على علامة مائية من Sora 2، وهو مولد الفيديو الجديد الخاص بـ OpenAI والذي تم إصداره للتو للجمهور في 30 سبتمبر. بعض التحميلات الأحدث لا تحتوي على العلامة المائية، وهو أمر أكثر رعبًا – فهذا يعني أن الأشخاص ربما يكتشفون كيفية إزالتها، أو أنهم يستخدمون أدوات الذكاء الاصطناعي الأخرى لصنع هذه الأشياء.
- الحسابات التي تنشرها غريبة أيضًا. الشخص الموجود على X ليس لديه أي متابع تقريبًا، في حين أن الشخص المماثل على TikTok كان لديه أكثر من 1000 قبل أن يتم حذفه أخيرًا. يبدو أنهما بدأا في أكتوبر، أولاً بنشر مقاطع تلفزيونية حقيقية، وبعد ذلك… تحولا إلى هذا العنف الناتج عن الذكاء الاصطناعي.
لماذا هذا مهم: هذا علم أحمر ضخم. إنه يوضح أن منصات الذكاء الاصطناعي ومواقع التواصل الاجتماعي هذه تفشل تمامًا في التقاط هذه الأشياء، حتى عندما تحظر قواعدها الخاصة بوضوح “المحتوى الرسومي أو العنيف”.
- قام TikTok بالفعل بإزالة الحساب بعد أن بدأت وسائل الإعلام في طرح الأسئلة، ولكن يقال إن X لم يفعل ذلك، حتى بعد أن أبلغ المستخدمون عنه.
- كما يُظهر أيضًا الخطر الأشد قتامة لأدوات الذكاء الاصطناعي الجديدة هذه، مما يعني أنه أصبح من السهل جدًا على أي شخص إنشاء مقاطع فيديو واقعية للغاية عن العنف، خاصة ضد النساء والأطفال.
- وهذا لا يعني مجرد “خرق القواعد”؛ إنه أمر غير أخلاقي تمامًا ويثير أسئلة قانونية ضخمة حول استخدام الذكاء الاصطناعي لإنشاء إساءة الاستخدام ومشاركتها.
لماذا يجب أن أهتم: الآن بعد أن أصبح بإمكان أي شخص صنع هذه الأشياء، يمكن أن تنتشر كالنار في الهشيم، مما يجعل الناس يشعرون بالخدر تجاه مدى فظاعة هذا النوع من العنف في الواقع.
- عليك أن تدرك أنه على الرغم من أن مقاطع الفيديو هذه “مزيفة”، إلا أنها لا تزال تسبب ضررًا نفسيًا حقيقيًا وتغذي ثقافة العنف.
- إنها مجرد نداء تنبيه هائل آخر مفاده أننا في حاجة ماسة إلى ضمانات أقوى. ويجب أن تخضع الشركات التي تصنع أدوات الذكاء الاصطناعي هذه، والمنصات التي تسمح لها بالانتشار، للمساءلة.
ما هو التالي: أعلنت حكومة المملكة المتحدة للتو أنها تتحرك لجعل أي تصوير إباحي للخنق غير قانوني، وهي علامة على أن البلدان بدأت تنتبه إلى هذا الأمر.
- في هذه الأثناء، يتزايد الضغط على OpenAI وTikTok وX للعمل معًا ووضع حواجز حماية حقيقية على أدوات الذكاء الاصطناعي الخاصة بهم حتى لا يمكن استخدامها لإنتاج هذا النوع من النفايات العنيفة والمزعجة.
- إذا لم يتحركوا بسرعة، فإن الخبراء يحذرون من أن هذه مجرد بداية لموجة جديدة مثيرة للاشمئزاز من إساءة استخدام الذكاء الاصطناعي عبر الإنترنت.
التعليقات