نحن بحاجة إلى قوانين لوقف التزييف العميق الناتج عن الذكاء الاصطناعي

لحل مشكلة التزييف العميق، يحتاج الأشخاص إلى حقوق الصور الخاصة بهم

بواسطة المحررين

يستطيع الذكاء الاصطناعي التوليدي الآن تزييف الواقع على نطاق صناعي. إن التزييف العميق – الصور ومقاطع الفيديو والمسارات الصوتية التي تستخدم الذكاء الاصطناعي لإنشاء تمثيلات مقنعة ولكن ملفقة بالكامل للأشخاص أو الأحداث – ليست مجرد مشكلة تتعلق بمحتوى الإنترنت؛ إنها مشكلة نظام اجتماعي. إن قوة الذكاء الاصطناعي في خلق الكلمات والصور التي تبدو حقيقية ولكنها ليست تهدد المجتمع والتفكير النقدي والاستقرار الحضاري. إن المجتمع الذي لا يعرف ما هو حقيقي لا يستطيع أن يحكم نفسه بنفسه.

نحن بحاجة إلى قوانين تعطي الأولوية لكرامة الإنسان وتحمي الديمقراطية. والدنمرك تضرب المثل. في يونيو/حزيران، اقترحت الحكومة الدنماركية تعديلاً على قانون حقوق الطبع والنشر من شأنه أن يمنح الأشخاص حقوقًا في التعبير عن وجوههم وأصواتهم. فهو يحظر إنشاء صور مزيفة عميقة لأي شخص دون موافقته، ويفرض عواقب على من ينتهك هذه القاعدة. من شأنه أن يكرس قانونيًا المبدأ الذي تمتلكه أنت.

وما يجعل النهج الذي تتبناه الدنمرك قوياً هو خوف الشركات من القوانين المتعلقة بانتهاك حقوق الطبع والنشر. في دراسة تم تحميلها على خادم ما قبل الطباعة arXiv.org في عام 2024، نشر الباحثون 50 صورة مزيفة عميقة على X وأبلغوا عنها إلى المنصة بطريقتين: 25 كشكاوى حقوق الطبع والنشر و25 كعُري غير رضائي بموجب سياسات X. قام X بإزالة مطالبات حقوق الطبع والنشر بسرعة، لكنه لم يقم بإزالة أي من انتهاكات الخصوصية الحميمة. الحقوق القانونية حصلت على العمل؛ الخصوصية لم تفعل ذلك.

حول دعم الصحافة العلمية

إذا كنت تستمتع بهذا المقال، ففكر في دعم صحافتنا الحائزة على جوائز من خلال الاشتراك. من خلال شراء اشتراك، فإنك تساعد على ضمان مستقبل القصص المؤثرة حول الاكتشافات والأفكار التي تشكل عالمنا اليوم.

نحن بحاجة إلى قوانين تعطي الأولوية لكرامة الإنسان وتحمي الديمقراطية.

من شأن الإضافة المقترحة إلى القانون الدنماركي أن تمنح ضحايا إزالة التزييف العميق وحقوق التعويض، وهو أمر مهم لأن الضرر الذي تسببه التزييف العميق ليس افتراضيًا. يستغل الأشخاص الذين يصنعون التزييف العميق الضحايا من أجل الحصول على المال أو الخدمات الجنسية أو السيطرة؛ أدت بعض مقاطع الفيديو إلى حالات انتحار، وقد تم توثيق ذلك بشكل واضح في سلسلة من الحالات التي شملت مراهقين استهدفهم المحتالون. ومع ذلك، فإن الأغلبية تستهدف النساء والفتيات. وقد وجد الباحثون أن 96% من التزييف العميق يتم بدون موافقة وأن 99% من التزييف العميق الجنسي يصور النساء.

وهذه المشكلة منتشرة ومتنامية. وفي استطلاع شمل أكثر من 16 ألف شخص في 10 دول، أفاد 2.2% منهم أنهم وقعوا ضحايا للمواد الإباحية المزيفة. قامت مؤسسة Internet Watch Foundation بتوثيق 210 صفحة ويب تحتوي على صور مزيفة عميقة تم إنشاؤها بواسطة الذكاء الاصطناعي للاعتداء الجنسي على الأطفال في النصف الأول من عام 2025 – بزيادة قدرها 400 بالمائة مقارنة بنفس الفترة من عام 2024. وبينما تم الإبلاغ عن مقطعي فيديو فقط بواسطة الذكاء الاصطناعي عن الاعتداء الجنسي على الأطفال في الأشهر الستة الأولى من عام 2024، تم الإبلاغ عن 1286 مقطع فيديو في النصف الأول من عام 2025. ومن بين هذه المقاطع، 1006 يصور أفعالًا شنيعة بمثل هذه الواقعية مثل بحيث لا يمكن تمييزها عن مقاطع الفيديو الخاصة بالأطفال الحقيقيين.

كما تهدد تقنية التزييف العميق الديمقراطية. قبل بضعة أشهر من الانتخابات الرئاسية الأمريكية لعام 2024، أعاد إيلون ماسك نشر مقطع فيديو مزيف على موقع X لنائبة الرئيس كامالا هاريس تصف نفسها بأنها موظفة متنوعة لا تعرف “أول شيء عن إدارة البلاد”. قرر الخبراء أن المحتوى ينتهك قواعد الوسائط الاصطناعية الخاصة بـ X، لكن ” ماسك ” اعتبره محاكاة ساخرة، وظل المنشور قائمًا.

وحتى الأنظمة المالية معرضة للخطر. وفي عام 2024، استخدم المجرمون فيديو مزيفًا لانتحال شخصية مديرين تنفيذيين من شركة هندسية عبر مكالمة مباشرة، وإقناع موظف في هونغ كونغ بتحويل ما يقرب من 25 مليون دولار إلى حسابات مملوكة للمجرمين. يوثق تقرير حديث صادر عن شركة Resemble.ai، وهي شركة متخصصة في التقنيات الصوتية المعتمدة على الذكاء الاصطناعي، 487 هجمة للتزييف العميق في الربع الثاني من عام 2025، بزيادة 41 بالمائة عن الربع السابق – مع خسائر تقارب 347 مليون دولار في ثلاثة أشهر فقط.

وعلى الرغم من كل هذا، فإن الولايات المتحدة تحرز تقدماً. إن قانون خذها من الحزبين، والذي تم إقراره هذا العام، يجعل من نشر أو التهديد بنشر صور حميمة غير توافقية، بما في ذلك التزييف العميق، جريمة فيدرالية، ويمنح المنصات 48 ساعة لإزالة المحتوى وقمع التكرارات. وتتخذ الدول إجراءات أيضًا. جرّمت ولاية تكساس مقاطع الفيديو الخادعة المستندة إلى الذكاء الاصطناعي والتي تهدف إلى التأثير على الانتخابات؛ لدى كاليفورنيا قوانين تلزم المنصات باكتشاف محتوى الذكاء الاصطناعي المخادع وتصنيفه وإزالته؛ وأصدرت ولاية مينيسوتا قانونًا يسمح باتهامات جنائية ضد أي شخص يقوم بعمل تزييف جنسي عميق بدون رضاه أو يستخدم التزييف العميق للتأثير على الانتخابات. وربما تنضم إليهم دول أخرى قريبا.

لكن أياً من هذه الجهود لم يذهب بعيداً بما فيه الكفاية؛ يجب أن نعتمد قانونًا فدراليًا يحمي حق الفرد في صورته وصوته. إن القيام بذلك من شأنه أن يمنح الأشخاص أسبابًا قانونية للمطالبة بالإزالة السريعة للتزييف العميق والحق في رفع دعوى قضائية للحصول على تعويضات كبيرة. إن قانون منع التزييف المقترح (والذي يرمز إلى “رعاية الأعمال الأصلية، وتعزيز الفن، والحفاظ على سلامة الترفيه”) من شأنه أن يحمي فناني الأداء والشخصيات العامة من التزييف العميق غير المصرح به، ولكن ينبغي أن يشمل جميع الناس. سيكون قانون حماية الانتخابات من الذكاء الاصطناعي الخادع، والذي من شأنه أن يحظر التزييف العميق للمرشحين الفيدراليين، أكثر فعالية من خليط من قوانين الولاية المعرضة لتحديات التعديل الأول – مثل محاولة X المثيرة للقلق للغاية لمنع قانون مينيسوتا للتزييف العميق.

في الخارج، يتطلب قانون الذكاء الاصطناعي للاتحاد الأوروبي إمكانية التعرف على الوسائط الاصطناعية من خلال وضع العلامات أو إشارات المصدر الأخرى. وبموجب قانون الخدمات الرقمية، يجب على المنصات الكبيرة العاملة في أوروبا التخفيف من وسائل الإعلام التي يتم التلاعب بها. ويتعين على الولايات المتحدة أن تتبنى تشريعات مماثلة.

نحتاج أيضًا إلى مواجهة مصانع الإساءة – مواقع وتطبيقات “التعري” المصممة لإنشاء صور مزيفة جنسية صريحة. لقد أجبر محامي مدينة سان فرانسيسكو العديد من هذه المواقع على عدم الاتصال بالإنترنت، ويستهدف مشروع قانون كاليفورنيا AB 621 الشركات التي تقدم خدمات لهذا النوع من المواقع. رفعت شركة Meta دعوى قضائية ضد شركة تقف وراء تطبيقات nudify التي تم الإعلان عنها على منصاتها.

لقد أظهر صعود تكنولوجيا التزييف العميق فشل السياسات الطوعية؛ لن تقوم الشركات بمراقبة نفسها حتى يصبح عدم القيام بذلك مكلفًا للغاية. ولهذا السبب فإن النهج الذي تتبناه الدنمرك ليس مبتكرا فحسب؛ إنه ضروري. يجب أن تنتمي صورتك إليك. أي شخص يستخدمه لأغراضه الخاصة دون إذنك يجب أن يكون مخالفًا للقانون. لن يوقف أي تشريع كل مزيف. ومع ذلك، يمكننا فرض خط أساسي للمساءلة يمنع مجتمعنا من الانزلاق إلى الفوضى.

حان الوقت للدفاع عن العلم

إذا استمتعت بهذا المقال، أود أن أطلب دعمكم. العلمية الأمريكية لقد عمل كمدافع عن العلوم والصناعة لمدة 180 عامًا، وربما تكون اللحظة الحالية هي اللحظة الأكثر أهمية في تاريخ القرنين.

لقد كنت العلمية الأمريكية مشترك منذ أن كان عمري 12 عامًا، وقد ساعد ذلك في تشكيل الطريقة التي أنظر بها إلى العالم. SciAm يثقفني ويسعدني دائمًا، ويلهمني شعورًا بالرهبة تجاه عالمنا الواسع والجميل. وآمل أن يفعل ذلك بالنسبة لك أيضا.

إذا كنت الاشتراك في العلمية الأمريكيةأنت تساعد في ضمان أن تغطيتنا تركز على البحث والاكتشاف الهادف؛ وأن لدينا الموارد اللازمة للإبلاغ عن القرارات التي تهدد المختبرات في جميع أنحاء الولايات المتحدة؛ وأننا ندعم العلماء الناشئين والعاملين على حد سواء في وقت لا يتم فيه الاعتراف بقيمة العلم نفسه في كثير من الأحيان.

وفي المقابل، تحصل على الأخبار الأساسية، ملفات بودكاست آسرة، ورسوم بيانية رائعة، لا يمكنك تفويت النشرات الإخبارية ومقاطع الفيديو التي يجب مشاهدتها، ألعاب التحدي، وأفضل الكتابة والتقارير في عالم العلوم. يمكنك حتى إهداء شخص ما اشتراكًا.

لم يكن هناك وقت أكثر أهمية بالنسبة لنا للوقوف وإظهار أهمية العلم. آمل أن تدعمونا في تلك المهمة.