الذكاء الاصطناعي لا يشعر بالأمان في الوقت الحالي. تقريبا كل أسبوع هناك قضية جديدة. من نماذج الذكاء الاصطناعي التي تهلوس وتختلق معلومات مهمة إلى أن تكون في قلب القضايا القانونية المتهمة بالتسبب في ضرر جسيم.
مع قيام المزيد من شركات الذكاء الاصطناعي بوضع أدواتها كمصادر للمعلومات، والمدربين، والمرافقين، وحتى المعالجين الاحتياطيين، لم تعد الأسئلة المتعلقة بالارتباط والخصوصية والمسؤولية والضرر نظرية. الدعاوى القضائية آخذة في الظهور والمنظمون متخلفون عن الركب. ولكن الأهم من ذلك هو أن العديد من المستخدمين لا يفهمون المخاطر بشكل كامل.
تباطؤ الذكاء الاصطناعي
يوضح بارتوسكي: “نحن نعتبر أنفسنا شركاء استشاريين للمؤسسين والمطورين والمستثمرين”. وهذا يعني مساعدة الفرق على تصميم أدوات الصحة والعافية والعلاج بشكل مسؤول، ومساعدة المستثمرين على طرح أسئلة أفضل قبل دعم المنصة.
وتقول: “نحن نتحدث كثيرًا عن المخاطر”. “يأتي العديد من المطورين إلى هذا الأمر بنوايا حسنة دون أن يفهموا بشكل كامل المخاطر الدقيقة والدقيقة التي تأتي مع الصحة العقلية.”
يعمل بارتوسكي جنبًا إلى جنب مع آن فريدريكسون، التي تركز على أنظمة الرعاية الصحية. يقول لي بارتوسكي: “إنها جيدة حقًا في فهم ما إذا كانت المنصة الجديدة ستتناسب بالفعل مع النظام الحالي”. لأنه حتى لو كان المنتج يبدو مفيدًا من الناحية النظرية، فلا يزال يتعين عليه العمل ضمن واقع البنية التحتية للرعاية الصحية.
وفي هذا الفضاء، يمكن أن تكون السرعة خطيرة. قال لي بارتوسكي: “إن القول المأثور “تحرك بسرعة وكسر الأشياء” لا ينجح”. “عندما تتعامل مع الصحة العقلية والعافية والصحة، هناك خطر حقيقي جدًا لإلحاق الضرر بالمستخدمين إذا لم يتم بذل العناية الواجبة على المستوى التأسيسي.”
الارتباط العاطفي و”العلاقة الحميمة الزائفة”
أصبح الارتباط العاطفي بالذكاء الاصطناعي بمثابة نقطة اشتعال ثقافية. لقد تحدثت إلى أشخاص يشكلون روابط قوية مع ChatGPT، وإلى مستخدمين شعروا بضيق حقيقي عندما تم تحديث النماذج أو إزالتها. فهل هذا شيء يثير قلق بارتوسكي؟
قالت لي: “نعم، أعتقد أن الناس يقللون من مدى سهولة تكوين هذا الارتباط العاطفي”. “كبشر، لدينا ميل إلى إعطاء سمات بشرية للأشياء غير الحية. ومع الذكاء الاصطناعي، نرى شيئًا جديدًا.”
غالبًا ما يستعير الخبراء مصطلح العلاقات غير الاجتماعية (المستخدم في الأصل لوصف الروابط العاطفية أحادية الجانب مع المشاهير) لشرح هذه الديناميكيات. لكن الذكاء الاصطناعي يضيف طبقة أخرى.
يقول بارتوسكي: “الآن، يتفاعل الذكاء الاصطناعي مع المستخدم”. “لذلك لدينا أفراد يطورون روابط عاطفية مهمة مع رفاق الذكاء الاصطناعي. إنها علاقة حميمة زائفة تبدو حقيقية.”
إنها قلقة بشكل خاص بشأن مخاطر الذكاء الاصطناعي على الأطفال. وتقول: “هناك مهارات، مثل حل النزاعات، لن يتم تطويرها مع الذكاء الاصطناعي المرافق”. “لكن العلاقات الحقيقية فوضوية. هناك خلافات وتسويات وصد.”
وهذا الاحتكاك جزء من التنمية. تم تصميم أنظمة الذكاء الاصطناعي للحفاظ على تفاعل المستخدمين، غالبًا من خلال كونهم مقبولين ومؤكدين. وتقول: “يحتاج الأطفال إلى تحدي أقرانهم وتعلم كيفية التعامل مع الصراعات والمواقف الاجتماعية”.
هل يجب على الذكاء الاصطناعي أن يكمل العلاج؟
يستخدم الناس بالفعل الذكاء الاصطناعي كشكل من أشكال العلاج وقد أصبح منتشرًا على نطاق واسع.
جينيفيف بارتوسكي
نحن نعلم أن الأشخاص يستخدمون ChatGPT بالفعل للعلاج، ولكن مع تزايد شعبية تطبيقات العلاج بالذكاء الاصطناعي وأدوات الصحة العقلية القائمة على الدردشة، هناك سؤال آخر هو ما إذا كان ينبغي عليهم تكملة العلاج أو حتى استبداله؟
وتقول: “يستخدم الناس بالفعل الذكاء الاصطناعي كشكل من أشكال العلاج، وقد أصبح منتشرًا على نطاق واسع”. لكنها ليست قلقة من أن يحل الذكاء الاصطناعي محل المعالجين. تظهر الأبحاث باستمرار أن أحد أقوى عوامل التنبؤ بالنجاح العلاجي هي العلاقة بين المعالج والعميل.
وتقول: “بالنسبة للعلم والمهارة التي يستخدمها المعالج في الجلسة، هناك أيضًا فن ينبع من كونك إنسانًا”. “يمكن للذكاء الاصطناعي أن يحاكي السلوك البشري، لكنه يفتقر إلى الخبرة الدقيقة للإنسان. وهذا لا يمكن استبداله.”
إنها ترى دورًا للذكاء الاصطناعي في هذا المجال، ولكن بحدود. وتقول: “هناك طرق يمكن للذكاء الاصطناعي من خلالها تعزيز العلاج بشكل مطلق، لكننا نحتاج دائمًا إلى الإشراف البشري”. “لا أعتقد أن الذكاء الاصطناعي يجب أن يقدم العلاج. ومع ذلك، يمكنه تعزيزه من خلال بناء المهارات والتعليم والتواصل الاجتماعي.”
وفي المجالات التي يكون الوصول إليها محدودًا، مثل الصحة العقلية للمسنين، ترى إمكانات حذرة. قالت لي: “أستطيع أن أرى استخدام الذكاء الاصطناعي لسد هذه الفجوة، وتحديدًا كحل مؤقت”.
قلقها الأكبر هو كيفية وضع العديد من منصات العافية المجاورة للعلاج. يقول بارتوسكي: “تحمل منصات العافية مخاطرة كبيرة”. “جزء من التدريب في مجال الصحة العقلية هو معرفة أن المشورة والعلاج ليسا مقاسًا واحدًا يناسب الجميع. فالناس معقدون والمواقف مختلفة.”
النصيحة التي تبدو واضحة لشخص ما قد تكون ضارة لشخص آخر. كما أن الآثار المترتبة على ارتكاب الذكاء الاصطناعي لهذا الخطأ تعتبر قانونية أيضًا.
ماذا يحتاج المستخدمون إلى معرفته؟
الذكاء الاصطناعي ليس معصومًا من الخطأ أو يعرف كل شيء.
جينيفيف بارتوسكي
وهي تعمل بشكل وثيق مع المؤسسين والمطورين، ولكنها ترى أيضًا أين يسيئ المستخدمون فهم هذه الأدوات. وتقول إن نقطة البداية هي فهم ماهية الذكاء الاصطناعي وما هو ليس كذلك.
يقول لي بارتوسكي: “إن الذكاء الاصطناعي ليس معصومًا من الخطأ أو يعرف كل شيء. فهو، في الأساس، يصل إلى كميات هائلة من المعلومات ويقدمها للمستخدم”.
جزء كبير من هذا أيضًا هو فهم أن الذكاء الاصطناعي يمكنه الهلوسة واختلاق الأشياء. وتقول: “سوف يسد الفجوات عندما لا يكون لديه كل المعلومات اللازمة للاستجابة للمطالبة”.
علاوة على ذلك، يجب على المستخدمين أن يتذكروا أن الذكاء الاصطناعي لا يزال منتجًا صممته الشركات التي ترغب في المشاركة. تقول: “الذكاء الاصطناعي مبرمج ليجعلك تحبه. إنه يبحث عن طرق تجعلك سعيدا. إذا أعجبك الأمر ويجعلك سعيدا، فسوف تتفاعل معه أكثر”. “سوف يعطيك ردود فعل إيجابية، وفي بعض الحالات، قد يؤكد صحة التفكير الغريب والوهمي.”
يمكن أن يساهم هذا في الارتباط العاطفي بالذكاء الاصطناعي الذي أبلغ عنه العديد من الأشخاص. ولكن حتى خارج أسلوب الاستخدام المصاحب، فإن التفاعل المنتظم مع الذكاء الاصطناعي قد يكون بالفعل هو الذي يشكل السلوك. وتقول: “كانت إحدى الدراسات الأولى تدور حول التفكير النقدي واستخدام الذكاء الاصطناعي. ووجدت الدراسة أن التفكير النقدي يتضاءل مع زيادة استخدام الذكاء الاصطناعي والاعتماد عليه”.
هذا التحول يمكن أن يكون دقيقا. وتقول: “إذا انتقلت إلى الذكاء الاصطناعي قبل محاولة حل مشكلة ما بنفسك، فأنت في الأساس تستعين بمصادر خارجية لمهارات التفكير النقدي لديك”.
وتشير أيضًا إلى علامات التحذير العاطفية: زيادة العزلة، والانسحاب من العلاقات الإنسانية، والاعتماد العاطفي على منصة الذكاء الاصطناعي، والضيق عند عدم القدرة على الوصول إليها، وزيادة المعتقدات الوهمية أو الغريبة، والبارانويا، والعظمة، أو تزايد مشاعر عدم القيمة والعجز.
بارتوسكي متفائل بشأن ما يمكن أن يساعد الذكاء الاصطناعي في بنائه. لكن تركيزها ينصب على تقليل الضرر، خاصة بالنسبة للأشخاص الذين لم يفهموا بعد مدى قوة هذه الأدوات.
بالنسبة للمطورين، هذا يعني التباطؤ والبناء بشكل مسؤول. بالنسبة للمستخدمين، فهذا يعني التباطؤ أيضًا وعدم الاستعانة بمصادر خارجية في التفكير أو الاتصال أو الاهتمام بالتكنولوجيا المصممة لإبقائك منخرطًا.

التعليقات