مناورة جيك بول Deepfake تثير الجدل حول ظهور Sora Cameos وحقوق التشابه الرقمي

تعرض لعبة Sora Stunt لـ Jake Paul المخاطر والمكافآت في سوق Deepfake

بقلم ديني إليس بيشار حرره أندريا جاوريلفسكي & كلارا موسكوفيتش

جيك بول موجود في جميع أنحاء الإنترنت. صنع بول – الذي تحول إلى ممثل وملاكم محترف – التاريخ في العام الماضي عندما واجه أسطورة الملاكمة مايك تايسون في الحدث الرياضي الأكثر بثًا على الإطلاق. لقد عاد الآن إلى دائرة الضوء، مع المزيد من العيون عليه. أظهرت موجة من مقاطع الفيديو واسعة الانتشار التي تم نشرها الأسبوع الماضي أنه يقدم دروسًا في الماكياج، ويسرق من متجر تاكو بيل ويمسك بمتجر 7-Eleven.

لكن لم يكن أيًا من مقاطع الفيديو هذه حقيقيًا، بل كانت عبارة عن مقاطع مزيفة عميقة تم إنتاجها على تطبيق Sora التابع لـ OpenAI. يستخدم البرنامج، الذي تم إطلاقه في 30 سبتمبر، الذكاء الاصطناعي لإنشاء مقاطع فيديو ويسمح للأشخاص بتحميل صورهم على شكل “عرض” يمكن للآخرين استخدامه.

قام بول عن طيب خاطر بتحميل مقطعه الخاص ليستخدمه الآخرون، ثم في 8 أكتوبر، نشر مقطع فيديو على TikTok هدد فيه بمقاضاة أي شخص ينشر صورًا مزيفة له وهو يفعل أشياء لن يفعلها أبدًا. عندما قال هذا، بدأ بوضع المكياج بطريقة خرقاء، وهي هفوة لأن هذا هو ما صوره العديد من المزيفين العميقين عليه. في اليوم التالي أعلن على X أنه “مستثمر فخور في OpenAI” و”أول مستخدم مشهور لـ NIL” (NIL هو اختصار للاسم والصورة والتشابه) وأن مقاطع الفيديو التي تم إنشاؤها مع صورته قد تلقت، في ستة أيام فقط، أكثر من مليار مشاهدة.

حول دعم الصحافة العلمية

إذا كنت تستمتع بهذا المقال، ففكر في دعم صحافتنا الحائزة على جوائز من خلال الاشتراك. من خلال شراء اشتراك، فإنك تساعد على ضمان مستقبل القصص المؤثرة حول الاكتشافات والأفكار التي تشكل عالمنا اليوم.

قد تكون مثل هذه المساعي بداية لاقتصاد رقمي جديد للتزييف العميق، وقد يكون سورا هو المحرك الرئيسي. يبدو أن ميزة “النقش”، التي بدت في البداية بمثابة إضافة ممتعة لقدرات Sora، أصبحت الآن واحدة من عوامل الجذب الرئيسية، وقد أعلن الرئيس التنفيذي لشركة OpenAI عن خطط لتحقيق الدخل منها. يقدم التطوير فرصًا للبعض ولكنه يمثل مخاطر كبيرة للآخرين. اعتمادًا على كيفية تنفيذ النظام، يمكن لأصحاب الصور المزخرفة تحديد الشروط والتكلفة، مما قد يعيد بعض التحكم لأولئك الذين تم استخدام صورهم دون موافقتهم. يمكن لأي شخص أن يشارك NIL الخاص به، وفي الواقع، يضع ضعفه الرقمي في ما يعادل مكتبة الصور المخزنة. يمكن لمستخدمي التطبيق الآخرين ترخيص هذه التشابهات في استخدامات صغيرة يمكن تتبعها، والالتزام بالقواعد التي وضعها أصحاب الحقوق (عدم العري، على سبيل المثال) والدفع لهم مقابل كل استخدام. إن تقنية التزييف العميق، والتي كانت تستخدم حتى الآن إلى حد كبير لتشويه سمعة الناس أو ابتزازهم، من شأنها على الأقل أن تولد إتاوات لرعاياها.

بطبيعة الحال، مع تحرك التكنولوجيا بسرعة أكبر مما يدرك العديد من المستخدمين ــ وبالتأكيد أسرع من قدرة الهيئات التنظيمية على مواكبتها ــ تصبح المخاطر كبيرة. يمكن لأي شخص أن يوافق على النسخ ويظل متضررًا من التزييف العميق الذي يتم تحريره بشكل انتقائي أو إنشاؤه باستخدام مطالبات ضارة. يمكن بسهولة سرقة صورهم واستخدامها في مكان آخر للاحتيال أو التحريف، ولا يمكن ببساطة إعادة تعيين البيانات البيومترية المكشوفة مثل كلمة المرور المسربة.

إن إنشاء سوق للـ NILs لا يحل الأضرار المحتملة، ولكنه قد يخلق حافزًا تجاريًا لمنعها من خلال التنظيم للحفاظ على سلامة السوق. وفي بعض الحالات، سيكون استخدام عدم وجود أي شخص أمرًا مستحيلًا لأسباب أخلاقية، وليس لأسباب قانونية فقط. في الأسبوع الأول من إطلاق سورا، احتجت العائلات على التزييف العميق للموتى، وأشارت شركة OpenAI إلى أنها ستضيف أدوات لتلبية تلك الطلبات.

ومن المرجح أن يغير اقتصاد التزييف العميق الأمور بطرق لا يمكن لأحد التنبؤ بها. أحدثت برامج بث الموسيقى، مثل Spotify وSoundCloud، تحولًا في صناعة الموسيقى، وغيرت كيفية مشاركة الأغاني وحتى تصميمها. على سبيل المثال، قاموا بتوجيه الموسيقيين نحو تسجيل أغانٍ أقصر يقل احتمال تخطيها من قبل المستمعين. فهل سيحدث شيء مماثل مع التزييف العميق الذي يتم تحويله إلى سلعة؟ قد يتطور السوق حيث يتم بيع صور الأشخاص أو المتاجرة بها أو حتى تعديلها اعتمادًا على مدى الطلب عليها. هل سترتفع قيم صورة الوجه وتنخفض مع تقلبات شعبية الشخص؟ قد يبدو الأمر بائسًا، لكننا نعيش بالفعل في ثقافة حيث يتم تحويل الصورة والاهتمام إلى أموال، ويبدو أن هذا الاتجاه من المرجح أن يستمر في التطور.

لقد بدأ عدد من المشاهير بالفعل في استكشاف التزييف العميق التجاري. في عام 2023، عرضت الموسيقيّة غرايمز تقسيم حقوق الملكية بنسبة 50-50 لأي شخص يستخدم صوتها القائم على الذكاء الاصطناعي لإنشاء أغنية “ناجحة”. يتيح مشروع Dream Track على YouTube للمبدعين إنشاء مقاطع صوتية باستخدام أصوات غناء الذكاء الاصطناعي لتشارلي بوث وديمي لوفاتو وجون ليجند وغيرهم. ظهرت التزييفات العميقة لنجمي الرياضة ديفيد بيكهام وبيتون مانينغ في الإعلانات التجارية، كما أنشأت الموسيقي FKA Twigs تزييفًا عميقًا للتعامل مع تفاعلاتها على وسائل التواصل الاجتماعي بينما تركز على صنع الموسيقى.

وهو ما يعيدنا إلى منطق قرار بول بالسماح للناس بإنشاء مقاطع فيديو مع ظهوره على سورا: إذا كان الاهتمام هو السلعة النادرة الثمينة في سوق رقمية مشبعة، إذن السماح للعالم بإنتاج أنت عند الطلب، تحصل على مزيد من الاهتمام وتزيد من قيمتك. إنه أحد الأصول والمهندس المعماري في نفس الوقت، ويحظى بالاهتمام اليوم حتى يتمكن من الحصول على عائداته غدًا.

حان الوقت للدفاع عن العلم

إذا استمتعت بهذا المقال، أود أن أطلب دعمكم. العلمية الأمريكية لقد عمل كمدافع عن العلوم والصناعة لمدة 180 عامًا، وربما تكون اللحظة الحالية هي اللحظة الأكثر أهمية في تاريخ القرنين.

لقد كنت العلمية الأمريكية مشترك منذ أن كان عمري 12 عامًا، وقد ساعد ذلك في تشكيل الطريقة التي أنظر بها إلى العالم. SciAm يثقفني ويسعدني دائمًا، ويلهمني شعورًا بالرهبة تجاه عالمنا الواسع والجميل. وآمل أن يفعل ذلك بالنسبة لك أيضا.

إذا كنت الاشتراك في العلمية الأمريكيةأنت تساعد في ضمان أن تغطيتنا تركز على البحث والاكتشاف الهادف؛ وأن لدينا الموارد اللازمة للإبلاغ عن القرارات التي تهدد المختبرات في جميع أنحاء الولايات المتحدة؛ وأننا ندعم العلماء الناشئين والعاملين على حد سواء في وقت لا يتم فيه الاعتراف بقيمة العلم نفسه في كثير من الأحيان.

وفي المقابل، تحصل على الأخبار الأساسية، ملفات بودكاست آسرة، ورسوم بيانية رائعة، لا يمكنك تفويت النشرات الإخبارية ومقاطع الفيديو التي يجب مشاهدتها، ألعاب التحدي، وأفضل الكتابة والتقارير في عالم العلوم. يمكنك حتى إهداء شخص ما اشتراكًا.

لم يكن هناك وقت أكثر أهمية بالنسبة لنا للوقوف وإظهار أهمية العلم. آمل أن تدعمونا في تلك المهمة.