OpenAI على وشك منح ChatGPT خيارًا للبالغين فقط. وفي نفس اللحظة تقريبًا، انفصلت الشركة بطريقة مثيرة للجدل مع أحد المديرين التنفيذيين المسؤولين عن تحديد المدى الذي يجب السماح للنظام بالذهاب إليه، كما ورد لأول مرة بواسطة صحيفة وول ستريت جورنال. إن وعد الرئيس التنفيذي لشركة OpenAI Sam Altman بوضع وضع بالغ مسؤول وآمن لـ ChatGPT أصبح الآن معرضًا لخطر الظهور جوفاء.
قاد رايان بيرميستر سياسة المنتج في OpenAI، وقام بتشكيل القواعد وآليات التنفيذ التي تحكم سلوك ChatGPT، على الأقل حتى الشهر الماضي. التوقيت ملحوظ مثل وول ستريت جورنال تقول إن ذلك حدث بعد وقت قصير من إثارة المخاوف بشأن خطط وضع البالغين.
تقول OpenAI إن رحيلها لم يكن له علاقة بأي اعتراضات أعربت عنها، بل كان مرتبطًا بمزاعم التمييز التي تنفيها بشدة. وقد وصفت هذا الادعاء بأنه “كاذب تماما”، ومن الصعب تجاهل التوقيت.
ووفقا للتقرير، حذر بييرميستر زملاءه من أن آليات الشركة لمنع محتوى استغلال الأطفال لم تكن قوية بما فيه الكفاية وأن منع المستخدمين المراهقين من الوصول إلى المواد الخاصة بالبالغين سيكون أصعب بكثير مما يعتقده المسؤولون التنفيذيون. حتى لو لم يكن لرحيلها عن OpenAI أي علاقة بالتحذير، فهو شيء مضمون لإثارة الدهشة بين أولئك الذين يشعرون بالقلق بالفعل بشأن ممارسة الجنس عبر الإنترنت.
ما يجعل هذه اللحظة مختلفة هو طبيعة المنتج. ChatGPT تفاعلي وقابل للتكيف وقادر على الاستجابة للإشارات العاطفية للمستخدم. يمكنه تصميم الأوهام في الوقت الفعلي. إن التحول من الاستهلاك السلبي إلى المحاكاة الشخصية يغير المخاطر.
الذكاء الاصطناعي البالغ
وترتكز حجة ألتمان على فكرة أن النضج قد وصل. كانت الإصدارات المبكرة من ChatGPT مقيدة بشكل متعمد. غالبًا ما يرفض النظام المشاركة حتى في لعب الأدوار الرومانسية المعتدلة. اشتكى العديد من المستخدمين من شعورهم بالتصلب والحذر المفرط.
والفرضية الآن هي أن أنظمة السلامة الأفضل، والمراقبة المحسنة، والتحقق الأكثر قوة من العمر، تجعل التوسع ممكنًا. ومن وجهة النظر هذه، يجب معاملة البالغين الذين تم التحقق منهم مثل البالغين.
ويبدو هذا المبدأ معقولا. يصل البالغون بشكل روتيني إلى المحتوى المثير عبر الإنترنت. إذا كان بإمكان برنامج الدردشة الآلي إنشاء قصة قصيرة مشبعة بالبخار لشخص بالغ موافق عليه، فلماذا يجب التعامل مع ذلك بشكل مختلف عن الرواية الرومانسية الموجودة على رف الكتب؟
لكن ChatGPT ليس تطبيقًا مخصصًا للبالغين. وهو مساعد للأغراض العامة يستخدم في المكاتب والفصول الدراسية والمنازل. فهو يقوم بصياغة رسائل البريد الإلكتروني، ويشرح الواجبات المنزلية، ويساعد في البرمجة، ويقدم الرفقة للأشخاص الذين يشعرون بالعزلة.
إن قلق Beiermeister الذي تم الإبلاغ عنه بشأن استغلال الأطفال وإمكانية وصول المراهقين إليه يشير إلى ضعف مألوف في الضمانات الرقمية. غالبًا ما يتجاوز المراهقون القيود المفروضة على منصات التواصل الاجتماعي بسهولة، بينما يمكن انتحال عمليات التحقق من الهوية.
من المرجح أن يجادل OpenAI بأن رفض تقديم محتوى للبالغين لا يمنع وجوده. المنافسون يفعلون ذلك بالفعل. أطلقت شركة Elon Musk's xAI Ani، وهي رفيقة غزلية تعمل بالذكاء الاصطناعي بأسلوب الرسوم المتحركة، وأظهر السوق شهية لرفاق الذكاء الاصطناعي الذين يطمسون الخط الفاصل بين المحادثة والإغواء.
ومع ذلك، فإن تجربة شركة xAI الأخيرة، عندما تم استخدام برنامج الدردشة الآلي Grok AI الخاص بها لإنشاء صور مزيفة ذات طابع جنسي دون موافقة، أظهرت مخاطر السباحة في هذه المياه. وفتحت الجهات التنظيمية في المملكة المتحدة تحقيقات حول ما إذا كانت هناك ضمانات كافية مدمجة في تصميم النظام، وسارعت الشركة إلى فرض قيود جديدة على تحرير صور الأشخاص الحقيقيين لتحويلها إلى ملابس كاشفة.
قد لا تتعثر شركة OpenAI بنفس الطريقة، ولكن بمجرد وجود هذا النوع من القدرات الواضحة، يمكن إعادة استخدامها بطرق لم يتوقعها المصممون أو لا يمكنهم التحكم فيها بشكل كامل.
النضج مفقود
إن إطلاق النار على Beiermeister يجعل الأمور تبدو بغيضة بطرق أخرى. على الرغم من إصرار OpenAI على أن إنهاء عملها لا علاقة له باعتراضاتها على السياسة، إلا أن حقيقة وجود أي نقاش حول هذا الأمر ليس مثاليًا للشركة. عندما يخرج أحد كبار القادة المسؤولين عن صياغة وتنفيذ قواعد السلامة وسط نزاع سياسي، يرسم المراقبون الروابط.
ومع ذلك، قد يتم تنفيذ وضع ChatGPT للبالغين بشكل مدروس، مع حدود واضحة وتنفيذ قوي. وقد تتبخر كل المخاوف الحالية. الحياة الجنسية ليست ضارة بطبيعتها، والبالغون قادرون على اتخاذ خيارات بشأن ما يستهلكونه.
ولكن هناك بالفعل الكثير من القصص عن أشخاص وقعوا في حب نسختهم من شخصية ChatGPT. إن إضافة محتوى جنسي إلى هذه المعادلة لن يفعل الكثير لتخفيف الأمور.
إن ضغط السوق للتوسع في محتوى البالغين واضح. ولكن هناك، أو على الأقل ينبغي أن تكون هناك، حسابات أخلاقية إلى جانب منطق السوق. أصبح ChatGPT بنية تحتية لملايين الأشخاص. والقرارات المتعلقة بتطورها تحمل ثقلاً اجتماعياً.
إذا لم يكن لإقالة ريان بيرميستر أي علاقة باعتراضاتها، فإن OpenAI لديها الفرصة لتوضيح ذلك وإظهار أن المناقشات السياسية تظل قوية داخل جدرانها. وإذا لم يكن من الممكن تحقيق ذلك فإن الشكوك سوف تظل قائمة بأن النمو أصبح له الأولوية على الحذر.
عندما تقوم شركة ما بتخفيف حواجز الحماية الخاصة بها، يراقب العالم ليرى من الذي لا يزال يحمل الخريطة. في هذه الحالة، أحد الأشخاص المكلفين برسم الحدود لم يعد موجودًا في الغرفة، وبدون هذا الخلاف الأساسي، من المرجح أن يكون أي قرار غير كامل في أحسن الأحوال.
يريد OpenAI معاملة البالغين مثل البالغين. ويجب أن يتضمن هذا الطموح معاملة المنتقدين الداخليين وكأنهم شركاء لا غنى عنهم. بخلاف ذلك، لن يكون وضع البالغين بالغًا بالطريقة الأكثر أهمية، مما يحافظ على أمان الأطفال.
اتبع TechRadar على أخبار جوجل و أضفنا كمصدر مفضل للحصول على أخبار الخبراء والمراجعات والآراء في خلاصاتك. تأكد من النقر على زر المتابعة!
وبالطبع يمكنك أيضًا اتبع TechRadar على TikTok للحصول على الأخبار والمراجعات وفتح الصناديق في شكل فيديو، والحصول على تحديثات منتظمة منا على واتساب أيضاً.
أفضل أجهزة الكمبيوتر المحمولة للأعمال لجميع الميزانيات
التعليقات