إذا كنت تتساءل متى قد يبدأ ChatGPT في التعامل مع المحادثات الأكثر تعقيدًا، فإن OpenAI لديه بعض الوضوح بالنسبة لك. وفقًا لصحيفة وول ستريت جورنال، تخطط الشركة للسماح للبالغين بإجراء تبادلات نصية مثيرة مع الحفاظ على حظر صارم على الصور الصريحة أو النسخ الصوتية أو محتوى الفيديو. ووصف متحدث باسم الشركة الميزة المخطط لها بأنها بذيئة وليست إباحية، مما يشير إلى محاولة حذرة لتقديم تفاعلات أكثر عنصرية دون تحويل برنامج الدردشة الآلي إلى منصة ترفيهية كاملة للبالغين.
لقد واجه الطرح تأخيرات بالرغم من ذلك. قامت OpenAI مؤخرًا بإرجاع وضع البالغين، والذي كان من المقرر أصلاً إجراؤه في الربع الأول، مستشهدة بالعقبات الفنية والمناقشات الداخلية حول السلامة. تتمثل إحدى النقاط الشائكة الرئيسية في إبقاء القُصّر خارجًا. كان نظام التنبؤ العمري الجديد للشركة يخطئ في تصنيف حوالي 12 بالمائة من المستخدمين تحت سن 18 عامًا على أنهم بالغون، وهو عيب كان من الممكن أن يسمح لملايين المستخدمين الشباب بالوصول إلى الدردشات المثيرة.
الفن الصعب لرسم الخطوط
لقد اكتشف OpenAI هذه الحدود لسنوات، قبل ظهور ChatGPT بوقت طويل. في عام 2021، لاحظ المسؤولون التنفيذيون أن لعبة AI Dungeon، وهي لعبة مغامرات نصية تعمل على منصة OpenAI، تدفع المستخدمين أحيانًا إلى سيناريوهات جنسية عنيفة دون أي مطالبة. وفي أحيان أخرى، يقوم الذكاء الاصطناعي بتصعيد التبادلات إلى محادثات جنسية أكثر كثافة.
كشفت تلك الأحداث المبكرة عن واقع فوضوي. كانت أدوات الإشراف على محتوى الشركة عبارة عن أدوات فظة، وغير قادرة على فصل الأعمال المثيرة السائدة بشكل موثوق عن المواد التي تتضمن أفعالًا غير توافقية أو استغلال الأطفال.
يحاول النهج الحالي حل هذه المشكلة من خلال السماح بإجراء محادثات نصية للبالغين فقط مع الحفاظ على حظر صارم على إنشاء صور أو مقاطع فيديو أو أصوات صريحة.
لماذا تشعر OpenAI بالضغط لتقديم محادثات للبالغين
يأتي توجه الشركة نحو إجراء محادثات للبالغين في لحظة صعبة. وقد تقلصت الميزة التكنولوجية التي تتمتع بها شركة OpenAI على المنافسين مثل xAI وAnthropic، وتواجه خسائر مالية متزايدة أثناء التنافس على المستخدمين والتمويل. اقترح سام ألتمان أن المحتوى الصريح من المرجح أن يعزز النمو ويولد إيرادات إضافية، وهو احتمال مغري نظرا للضغوط.
على الرغم من ذلك، أعرب الرئيس التنفيذي عن مشاعر متضاربة علنًا. في بث صوتي في أغسطس الماضي، سُئل ألتمان عما إذا كان قد اتخذ أي قرارات كانت الأفضل للعالم ولكنها ليست الأفضل للفوز. واعترف بأن الشبقية من شأنها أن تدفع النمو لكنه قال إنها لن تتماشى مع هدف الشركة طويل المدى المتمثل في خدمة المستخدمين بشكل جيد.
وبعد شهرين بدا أن ألتمان قد عكس مساره. لقد نشر على X أن OpenAI قد عالجت مخاوف خطيرة تتعلق بالصحة العقلية تتعلق ببرامج الدردشة الآلية ولديها أدوات محتوى جديدة، معلنة عن خطط لإطلاق وضع البالغين في ديسمبر.
ماذا يحدث بعد ذلك مع وضع الكبار
أوضحت OpenAI أن وضع البالغين سيأتي في النهاية، على الرغم من التأخير. قامت الشركة بتعيين خبراء في الصحة العقلية وأنشأت فريقًا لرعاية الشباب لمراقبة التأثيرات طويلة المدى بمجرد إطلاق وضع البالغين. كما تقوم أيضًا بتدريب نماذجها على عدم تشجيع العلاقات الحصرية مع المستخدمين وتذكيرهم بأنهم بحاجة إلى اتصالات في العالم الحقيقي.
في الوقت الحالي، سيتعين على المستخدمين المهتمين بمحادثات ChatGPT للبالغين الانتظار. تعطي الشركة الأولوية للميزات الأخرى مثل تعديلات الشخصية والتخصيص بينما تعمل على التغلب على العقبات المتبقية.
التعليقات