- أيّ؟ حددت عمليات الاحتيال العميق على YouTube والتي تستهدف المستهلكين
- يدفع هذا الجمهور إلى الاستثمار في مخططات وهمية
- أيّ؟ يحث الحكومة وشركات التكنولوجيا على إزالة هذه
بحث جديد من مجموعة المستهلكين أيهما؟ حث الحكومة على تنفيذ لوائح أكثر صرامة على شركات التكنولوجيا الكبرى لحماية مستخدمي الإنترنت من عمليات الاحتيال التي تعتمد على الذكاء الاصطناعي.
اكتشفت التحقيقات التي أجرتها المجموعة مقاطع فيديو مزيفة مقنعة للصحفي المالي (ومصدر موثوق) مارتن لويس، وكذلك رئيس الوزراء البريطاني كير ستارمر، وهم ينصحون الجماهير بالاستثمار في مخططات احتيالية، وتعطي مقاطع الفيديو المزيفة العميقة الانطباع بأن عمليات الاحتيال هذه مدعومة من الحكومة و”خالية من المخاطر”.
ارتفعت عمليات احتيال انتحال هوية الذكاء الاصطناعي بشكل كبير في عام 2025 حتى الآن، وقد جعلت التكنولوجيا سريعة التطور من الصعب اكتشافها بشكل متزايد.
خطر على العملاء
دعت مجموعة المستهلكين الآن شركات التكنولوجيا مثل YouTube وX (Twitter سابقًا) وMeta إلى “عدم رغبتها الواضحة في حظر المحتوى الخطير والمضلل”؛ ويدعو كذلك الحكومة إلى “التأكد من أن استراتيجية الاحتيال القادمة تتضمن إجراءات صارمة لجعل شركات التكنولوجيا الكبرى تتحمل المسؤولية”.
تتبع هيئة السلوك المالي التوجيهات العامة، التي تحذر من الثقة في نصيحة المؤثرين الماليين غير الخاضعين للرقابة – ولكن حوالي الخمس (20٪) من الذين قاموا باستثمارات يثقون في المؤثرين عبر الإنترنت عند اتخاذ قرارات الاستثمار.
بالطبع، تعد التزييف العميق للمصادر الأصلية الموثوقة قصة مختلفة، لذا من المهم مراجعة المحتوى الذي تراه (أي التأكد من أنها القناة الرسمية، مع روابط آمنة، وموقع ويب شرعي).
ومما يزيد الأمر تعقيدًا حقيقة أن المجرمين قادرون، بمساعدة الذكاء الاصطناعي، على إنشاء مواقع ويب محاكاة ساخرة بسرعة ودقة لانتحال صفة منافذ إخبارية محترمة مثل ويتش؟ و بي بي سي.
تشير روسيو كونشا، مديرة السياسات والمناصرة في منظمة “ويتش” إلى أن “الذكاء الاصطناعي يزيد من صعوبة اكتشاف ما هو حقيقي وما هو غير حقيقي”.
“يعرف المحتالون ذلك – ويستغلونه بلا رحمة. وفي الوقت نفسه، فإن منصات التكنولوجيا الكبرى التي يستخدمها الكثيرون منا يوميًا لا تفعل ببساطة ما يكفي لمنع المحتالين من العمل على مواقعها، مما يعرض مستخدميها للخطر”.
“من أجل حماية مواطني المملكة المتحدة بشكل صحيح من الاحتيال، يجب على الحكومة وضع استراتيجية احتيال تركز على العمل وتتشدد مع شركات التكنولوجيا الكبرى وغيرها من الروابط الضعيفة التي تمكن المحتالين من الازدهار عبر الإنترنت”
ومع ذلك، طور موقع YouTube مؤخرًا أداة للسماح لمنشئي المحتوى بالإبلاغ عن نسخ الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي، والتي لن تستهدف بالضرورة الاحتيال المالي العميق، ولكن نأمل أن تكون خطوة في الاتجاه الصحيح لتحديد مقاطع الفيديو المزيفة العميقة.
أفضل برامج مكافحة الفيروسات لجميع الميزانيات
التعليقات