لدى YouTube خطة جديدة للتعامل مع موجة المحتوى الناتج عن الذكاء الاصطناعي التي تغمر نظامه الأساسي، وهي تتضمنك أنت. تطلب الشركة الآن من المشاهدين تقييم ما إذا كان الفيديو يشبه الذكاء الاصطناعي. ظاهريًا، يبدو هذا طريقة معقولة لمعالجة محتوى الذكاء الاصطناعي منخفض الجودة في خلاصتك. ومن الناحية العملية، قد يسبب مشاكل أكثر مما يحل.
البشر سيئون في اكتشاف المحتوى الناتج عن الذكاء الاصطناعي، ويزداد الأمر سوءًا
المشكلة الأساسية في هذا النهج هي أن الأشخاص لا يجيدون اكتشاف المحتوى الناتج عن الذكاء الاصطناعي، كما أن الفجوة بين الاكتشاف البشري وقدرات الذكاء الاصطناعي تتسع بسرعة. كان محتوى الذكاء الاصطناعي المبكر يحتوي على إشارات واضحة مثل الأصوات الآلية، أو الأيدي المشوهة، أو الوجوه غير الطبيعية. لقد أصلحت النماذج الأحدث هذه المشكلات إلى حد كبير.
الأصوات الآن تبدو طبيعية، والوجوه مقنعة، والهبات الواضحة تختفي. لقد تطورت الأدوات بشكل واضح، لكن المشاهدين العاديين لم يواكبوا ذلك. وهناك أبحاث تدعم هذا الأمر.
وجدت دراسة حديثة حول اكتشاف الوجه باستخدام الذكاء الاصطناعي أن أداء الأشخاص كان أفضل قليلاً من الصدفة عندما طُلب منهم تحديد الوجوه التي تم إنشاؤها باستخدام الذكاء الاصطناعي. الأمر الأكثر إثارة للقلق هو أن ثقتهم في القدرة على اكتشاف وجوه الذكاء الاصطناعي كانت أعلى باستمرار من دقتهم الفعلية. تظهر الأبحاث أنماطًا مماثلة في أماكن أخرى.
وجدت دراسة حول الكشف عن التزييف العميق أن الناس يكافحون من أجل اكتشاف التزييف العميق ولكنهم ما زالوا يعتقدون أنهم قادرون على ذلك، في حين تشير الأبحاث حول اكتشاف الصوت الناتج عن الذكاء الاصطناعي إلى أن أصوات الذكاء الاصطناعي أصبحت الآن غير قابلة للتمييز تقريبًا عن الأصوات الحقيقية بالنسبة للمستمع العادي.
إن سجل إنجازات موقع YouTube لا يساعد في قضيته. توصلت دراسة أجرتها شركة Kapwing إلى أن حوالي 21% من أول 500 مقطع فيديو موصى بها لحساب جديد تم تصنيفها على أنها ركائز تعتمد على الذكاء الاصطناعي، في حين توصل تحقيق أجرته صحيفة نيويورك تايمز إلى أن أكثر من 40% من مقاطع الفيديو القصيرة الموصى بها والتي تستهدف الأطفال في جلسة مدتها 15 دقيقة تحتوي على محتوى منخفض الجودة يعتمد على الذكاء الاصطناعي.
لقد اجتاز هذا المحتوى بالفعل أنظمة المراجعة الآلية والبشرية في YouTube. إذا سمحت هذه الأنظمة بالكثير من الذكاء الاصطناعي، فإن توقع أداء المشاهدين بشكل أفضل يبدو غير واقعي.
كما يفتح نظام التصنيف الباب أمام إساءة الاستخدام
حتى لو كان المشاهدون عبارة عن كاشفات موثوقة تعتمد على الذكاء الاصطناعي، فإن نظام التصنيف الجديد عرضة لإساءة الاستخدام. تعد الحملات المنسقة ضد منشئي المحتوى مشكلة موثقة جيدًا على موقع YouTube، حيث تستهدف الجهات الفاعلة السيئة القنوات من خلال التقارير الجماعية وتفجيرات الكراهية. الميزة التي تتيح للمستخدمين تصنيف المحتوى على أنه AI Slop تمنحهم أداة جديدة لاستغلالها. يمكن للقنوات المتنافسة أو المجتمعات الغاضبة أو المجموعات المنظمة إساءة استخدامه للإبلاغ عن مقاطع الفيديو بغض النظر عما إذا كان الذكاء الاصطناعي قد تم استخدامه بالفعل أم لا.
لم يشرح يوتيوب كيف سيتم التحقق من هذه التقييمات أو وزنها، مما يترك مجالًا كبيرًا للتلاعب. قد يضطر منشئو المحتوى الذين أمضوا سنوات في بناء جماهيرهم الآن إلى التعامل مع مخاطر جديدة لا علاقة لها بجودة عملهم. إذا تم نشر النظام على نطاق واسع دون ضمانات، فقد يؤدي ذلك في النهاية إلى الإضرار بالمبدعين الشرعيين بقدر ما يستهدف محتوى الذكاء الاصطناعي منخفض الجودة.
وماذا يستفيد المشاهدون منه؟
حتى لو تمكن موقع YouTube بطريقة أو بأخرى من معالجة إساءة الاستخدام، فهناك مشكلة واضحة أخرى في النظام: الحوافز. يتطلب الإبلاغ عن محتوى الذكاء الاصطناعي جهدًا ويتطلب مستوى معينًا من الوعي حول ما تستطيع أدوات الذكاء الاصطناعي فعله بالفعل، لكن موقع YouTube لا يقدم فائدة واضحة للمشاهدين للمساعدة في اكتشاف انحراف الذكاء الاصطناعي. ومن ناحية أخرى، تحصل المنصة على موجز أنظف وتدفق مستمر لبيانات المستخدم، دون تقديم الكثير في المقابل.
هناك أيضًا مخاوف مشروعة من أنه لا يوجد شيء يمنع YouTube من استخدام هذه التعليقات لتدريب نماذج الذكاء الاصطناعي المستقبلية، مما قد يزيد من صعوبة اكتشاف مقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. في الواقع، يمكن أن يحول النظام الذي يهدف إلى محاربة انحراف الذكاء الاصطناعي إلى نظام يساعد على تحسينه.
نهج يوتيوب يخطئ العلامة
يعد نظام التصنيف الجديد محاولة أخرى من جانب YouTube لإظهار أنه يأخذ مشكلة الذكاء الاصطناعي على محمل الجد، لكن النظام الأساسي لا يزال لا يقوم بما يكفي. لا يمنع صراحةً المبدعين من نشر محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي، وعلى الرغم من أنه يتطلب الكشف عن الوسائط الاصطناعية أو المعدلة بواسطة الذكاء الاصطناعي، فإن هذه القاعدة لا تنطبق إلا في حالات معينة. عقوبة تحقيق الدخل محدودة أيضًا، لأنها تعتمد على نفس أنظمة الكشف التي تسمح بالفعل بتسلل الكثير من محتوى الذكاء الاصطناعي منخفض الجودة.
ساعد يوتيوب في تهيئة الظروف لهذه المشكلة من خلال السماح بالمحتوى الناتج عن الذكاء الاصطناعي وتحقيق الدخل منه لسنوات، وقد باءت جهوده لاحتوائه بالفشل عند كل منعطف. إن الاستعانة بمصادر خارجية لعملية التنظيف للمشاهدين، دون شرح كيفية استخدام بياناتهم ودون تقديم أي شيء في المقابل، يعاملهم كمورد مجاني أكثر من كونه مجتمعًا. إذا كان موقع YouTube جادًا في معالجة مشكلة الذكاء الاصطناعي، فيجب عليه امتلاك الحل بدلاً من تمرير المهمة إلى الأشخاص الذين يشاهدونها.
التعليقات