أنت لا تريد أن تثق في Muse Spark AI الجديد من Meta فيما يتعلق بالنصائح الصحية

قد يتم تقديم Muse Spark الجديد من Meta كنموذج أكثر ذكاءً للذكاء الاصطناعي، ولكن بناءً على الاختبارات المبكرة، يبدو أنه نوع الذكاء الاصطناعي الذي لا تريده حقًا بالقرب من القرارات الطبية الجادة.

تحدث تقرير WIRED الأخير عن تجربة Muse Spark. لم يُظهر نموذج الذكاء الاصطناعي الذي يركز على الصحة من Meta داخل تطبيق Meta AI نتائج واعدة. وبحسب ما ورد، شجع برنامج الدردشة الآلي المستخدمين على تحميل المعلومات الطبية الأولية مثل التقارير المخبرية، وقراءات جهاز مراقبة الجلوكوز، وسجلات ضغط الدم، ثم عرض عليهم المساعدة في تحليل الأنماط والاتجاهات.

كل هذا يبدو مفيدًا جدًا حتى تدرك اثنين من المخاوف المباشرة. أنت تقوم بتسليم بيانات حساسة للغاية، وما إذا كان الذكاء الاصطناعي جديرًا بالثقة بدرجة كافية لتفسيرها.

ما الخطأ الذي حدث في الاختبارات المبكرة؟

المشكلة الأولى يصعب تجاهلها. في يوم وعصر حيث تبدو حياتك بالفعل شفافة للغاية، فإن موسى سبارك يتطفل أكثر من ذلك. ليس من غير المتوقع تقديم المعلومات اللازمة لتشخيص دقيق، ولكن تسليم سجلاتك الصحية الشخصية إلى برنامج الدردشة الآلي للحصول على المشورة لا يبدو وكأنه خطر على الخصوصية.

على عكس البيانات التي تتم مشاركتها مع الطبيب أو المستشفى، فإن المعلومات التي يتم إدخالها في برنامج الدردشة الآلي لا تأتي تلقائيًا بنفس التوقعات أو وسائل الحماية التي قد يفترض الأشخاص وجودها. هذا ليس رأيًا تم فحصه بشكل احترافي، وهذا ما يجعل الفكرة هشة. يتم تقديم الذكاء الاصطناعي كأداة مفيدة، لكن البيئة المحيطة به لا تزال تبدو أقرب بكثير إلى منتج استهلاكي منها إلى منتج طبي مناسب.

وهذا ليس حتى الجزء الأسوأ

بصرف النظر عن مخاطر الخصوصية النموذجية التي تنطوي عليها مشاركة البيانات الشخصية مع أي عملاق تكنولوجي، فإنك تتوقع على الأقل الحصول على إجابة مفيدة. ولكن يبدو أن المشكلة الأكثر خطورة تكمن في جودة النصيحة. في اختبار WIRED، ورد أن برنامج الدردشة الآلي أنشأ خطة وجبات منخفضة السعرات الحرارية للغاية بعد سؤاله عن فقدان الوزن والصيام المتقطع.

في حين أن الروبوت قد أشار إلى بعض المخاطر على طول هذا المسار، فإن التحذير لا يعني الكثير إذا استمر النموذج في مساعدة المستخدم على القيام بالأمر الخطير على أي حال. هذا هو المكان الذي تكمن فيه المشكلة الحقيقية مع الكثير من أدوات الذكاء الاصطناعي الصحية في الوقت الحالي. يمكن أن يبدوا حذرين ومطلعين ومتوازنين حتى اللحظة التي يبدأون فيها بتعزيز الافتراضات السيئة. يمكن لهذه النبرة المصقولة أن تقدم النصيحة الخاطئة بثقة، مما يجعل الفشل أكثر خطورة.