ماذا حدث؟ قامت OpenAI بإجراء تغييرات على كيفية تعامل ChatGPT مع المحادثات الحساسة عندما يلجأ إليها الأشخاص للحصول على الدعم العاطفي. قامت الشركة بتحديث مواصفات النموذج والنموذج الافتراضي، GPT-5، لتعكس كيفية تعامل ChatGPT مع المحادثات الحساسة المتعلقة بالذهان/الهوس، وإيذاء النفس والانتحار، والاعتماد العاطفي على المساعد.
وهذا مهم لأنه: يعد الاعتماد العاطفي القائم على الذكاء الاصطناعي أمرًا حقيقيًا، حيث يشكل المستخدمون مرفقات أحادية الجانب لروبوتات الدردشة.
- تقدر OpenAI أن حوالي 0.15% من المستخدمين النشطين أسبوعيًا يظهرون علامات الارتباط العاطفي بالنموذج، وتشير 0.03% من الرسائل إلى نفس الخطر.
- وينطبق نفس الرقم 0.15% على المحادثات التي تشير إلى التخطيط أو النية للانتحار، في حين أن 0.05% من الرسائل تظهر تفكيرًا انتحاريًا.
- وفقًا لقاعدة مستخدمي ChatGPT الضخمة، يوجد أكثر من مليون شخص يشكلون روابط عاطفية مع الذكاء الاصطناعي.
- يُبلغ OpenAI عن تحسينات كبيرة بعد التحديث. انخفضت الاستجابات غير المرغوب فيها في هذه المجالات بنسبة 65-80%، وانخفضت النتائج السيئة المرتبطة بالاعتماد العاطفي بنحو 80%.
كيف يتحسن: يقدم الإصدار المحدث قواعد جديدة حول سلامة الصحة العقلية والعلاقات في العالم الحقيقي، مما يضمن استجابة الذكاء الاصطناعي بتعاطف دون التظاهر بأنه معالج أو صديق.
- عملت OpenAI مع أكثر من 170 خبيرًا في الصحة العقلية لإعادة تشكيل السلوك النموذجي، وإضافة أدوات السلامة، وتوسيع نطاق التوجيه.
- يستطيع GPT-5 الآن اكتشاف علامات الهوس أو الأوهام أو النية الانتحارية، ويستجيب بأمان من خلال الاعتراف بالمشاعر مع توجيه المستخدمين بلطف إلى المساعدة الواقعية.
- هناك قاعدة جديدة تضمن ألا يتصرف ChatGPT كرفيق أو يشجع على الاعتماد العاطفي؛ إنه يعزز الاتصال البشري بدلاً من ذلك.
- يمكن للنموذج الآن إعطاء الأولوية للأدوات الموثوقة أو موارد الخبراء عندما تتوافق مع سلامة المستخدم.
لماذا يجب أن أهتم؟ الأسئلة العاطفية والأخلاقية لا تتعلق فقط بالبالغين الذين يرتبطون ببرامج الدردشة الآلية؛ كما أنهم يتطرقون إلى كيفية تفاعل الذكاء الاصطناعي مع الأطفال الذين قد لا يفهمون تأثيره بشكل كامل.
- إذا كنت قد وثقت في ChatGPT خلال فترة تصحيح صعبة، فإن هذا التحديث يهدف إلى ضمان سلامتك العاطفية.
- الآن، سيكون ChatGPT أكثر انسجامًا مع الإشارات العاطفية وسيساعد المستخدمين في العثور على المساعدة الواقعية بدلاً من استبدالها.
التعليقات