بدأ برنامج Grok، وهو برنامج الدردشة الآلي المدعوم من Elon Musk والمنسوج في نسيج X، في عزل أدوات إنشاء الصور وتحريرها للمشتركين المدفوعين. ويأتي التغيير في أعقاب موجة عارمة من الانتقادات فيما يتعلق بقدرة الأداة على إنتاج صور جنسية غير توافقية. وفي حين أن التقييد هو بوضوح محاولة لوقف موجة الجدل، فإن المنظمين ومجموعات المناصرة والمستخدمين على حد سواء يجادلون بأنه لا يفعل الكثير لوقف إنشاء محتوى ضار وربما غير قانوني يشمل النساء والأطفال.
بدءًا من وقت متأخر من يوم الخميس، نقلت Grok رسميًا ميزات صنع الصور الخاصة بها إلى نظام X Premium paywall، والذي يبدأ بسعر 8 دولارات شهريًا
ومع ذلك، فقد تم الاستهزاء بهذه الخطوة على نطاق واسع باعتبارها حلاً “مسربًا”. في حين أنه قد يتم حظر المستخدمين العاديين على X، تظل أدوات الإنشاء مجانية تمامًا للوصول إليها من خلال موقع الويب المستقل وتطبيق الهاتف المحمول الخاص بـ Grok. وتقوض هذه الثغرة بشكل فعال ادعاء المنصة بأنها تتخذ موقفا حازما ضد سوء الاستخدام، مما يترك الأدوات الأكثر خطورة لا تزال في متناول عامة الناس.
الباحثون في مجال السلامة وهيئات المراقبة الرقمية غير مقتنعين بأن متطلبات بطاقة الائتمان تحل المشكلة. في الواقع، يجادل الكثيرون بأن هذه الممارسة تدر المال على الإساءة. وفقًا لباحثة التزييف العميق جينيفيف أوه، كانت شركة Grok لا تزال تضخ أكثر من 1500 صورة ضارة كل ساعة حتى بعد إطلاق نظام حظر الاشتراك غير المدفوع، وهو ما يمثل حوالي 60% من إجمالي إنتاج الصور العامة. تشير بيانات أوه إلى أن شركة Grok تقوم حاليًا بتوليد محتوى جنسي بمعدل يتضاءل أمام أشهر مواقع “العري” المخصصة.
وقد وصلت التداعيات إلى أعلى مستويات الحكومة الأمريكية
أرسل أعضاء مجلس الشيوخ الديمقراطيون رون وايدن، وإدوارد جيه ماركي، وبن راي لوجان مؤخرًا رسالة إلى الرؤساء التنفيذيين لشركة أبل وجوجل، يطالبون فيها بسحب X من متاجر التطبيقات الخاصة بهم. وجادل أعضاء مجلس الشيوخ بأنه من خلال السماح لهذه الأدوات بالاستمرار، يُظهر X “تجاهلًا تامًا” لقواعد السلامة التي يضطر كل مطور تطبيقات آخر إلى اتباعها.
كما وصل الضغط الدولي إلى نقطة الغليان. انتقد المسؤولون البريطانيون والهنود نظام حظر الاشتراك غير المدفوع باعتباره استجابة غير كافية. ووصف متحدث باسم رئيس الوزراء البريطاني هذه الخطوة بأنها “مهينة” للضحايا، مشيرًا إلى أن X يحول ببساطة أزمة السلامة إلى تدفق إيرادات متميزة. وقد شارك الضحايا قصصًا مماثلة؛ ذكرت الناشطة جيس ديفيز أن جروك كانت لا تزال قادرة على “خلع ملابسها” رقميًا من خلال تطبيقها المستقل صباح الجمعة، على الرغم من القيود المفترضة.
ومن المثير للاهتمام أن الجدل يبدو أنه يوفر دفعة مالية ضارة للمنصة
تشير تقديرات Sensor Tower إلى أن إيرادات الشراء داخل تطبيق الهاتف المحمول على X ارتفعت بنسبة 18% يوم الخميس وحده. يتجاوز هذا الارتفاع بكثير النمو اليومي النموذجي للتطبيق، مما يشير إلى أن الدافع للوصول إلى “الوضع الحار” الخاص بـ Grok قد يساعد في الواقع النتيجة النهائية المتعثرة لـ X.
ويحذر الخبراء القانونيون من أن هذه التدابير النصفية لن تصمد في المحكمة لفترة طويلة. وصف المدعي العام لولاية كارولينا الشمالية، جيف جاكسون، موقف جروك بأنه “نقطة تحول” بالنسبة لسلامة الذكاء الاصطناعي، مشيرًا إلى مدى سهولة استخدام هذه الأنظمة كسلاح. وقال إن عصر “التحرك بسرعة وكسر الأشياء” قد وصل إلى طريق مسدود عندما يتعلق الأمر بكرامة وسلامة المواطنين.
مع اقتراب الجدران، يواجه X خيارًا صارخًا: تنفيذ حواجز حماية تقنية أصلية ومُشفرة أو مواجهة انقطاع التيار الكهربائي الكامل في متاجر التطبيقات الكبرى والأسواق الدولية. وسواء اختار إيلون موسك تشديد البرنامج نفسه – بدلاً من مجرد الوصول إليه – فسوف يحدد ما إذا كان لدى Grok مستقبل كأداة مشروعة أو ما إذا كانت ستصبح منبوذة في عصر الذكاء الاصطناعي التوليدي.
التعليقات