لا يعد التحيز مجرد عيب أخلاقي في الذكاء الاصطناعي، بل هو مركز تكلفة يختبئ على مرأى من الجميع. وكل بضعة أشهر، يثبت فشل كبير هذه النقطة. لكن المشكلة الحقيقية ليست أن الذكاء الاصطناعي يتصرف بشكل غير عادل في بعض الأحيان؛ إنها أن الأتمتة المتحيزة تؤدي بهدوء إلى تراكم المخاطر التشغيلية والإضرار بالسمعة وإعادة العمل. هذا هو التعريف الدقيق للدين الفني.
عبر الخدمات الرقمية، نرى بشكل متزايد كيف تتفاقم القرارات الصغيرة المتحيزة بمرور الوقت، مما يؤدي إلى تشويه رحلات العملاء وإجبار الشركات على الدخول في دورات من التصحيح المكلف. إن المناقشة الأخلاقية مهمة، ولكن تجاهل العواقب التجارية أصبح أصعب كثيراً.
كبير مسؤولي الاتصالات في Trustpilot.
تعتبر الدعوى القضائية الأخيرة التي رفعتها منظمة Workday والتي تزعم وجود ممارسات فحص تمييزية أحد الأمثلة على ذلك. خدمة العملاء هي مجال آخر تظهر فيه الأتمتة المتحيزة أو الصريحة حدودها. السيناريوهات الحساسة – الفجيعة، والاحتيال، والشكاوى، وأحداث الحياة الكبرى – تكشف بشكل روتيني أين يفشل الذكاء الاصطناعي في قراءة الثقل العاطفي للموقف. فبدلاً من تقليل الاحتكاك، يمكن تضخيمه.
أفاد الأشخاص بأنهم يتكررون بشكل لا نهاية له عبر برامج الدردشة الآلية، أو يواجهون استجابات تلقائية تخطئ الهدف تمامًا. إننا نرى بانتظام مراجعات عبر الصناعات التي تؤدي فيها الأتمتة إلى تفاقم الإحباط بدلاً من حله – خاصة عندما يحتاج العميل بوضوح إلى الحكم والتعاطف والتقدير.
وصف أحد المراجعين مؤخراً كيف كان “عالقاً في طريق مسدود” أثناء محاولته إغلاق حساب بعد وفاة أحد أفراد أسرته – وهي العبارة التي تصور مدى سرعة اهتراء الثقة عندما لا تكون الأنظمة مصممة للسياق البشري الحقيقي.
لكن الأخلاق ليست سوى القصة السطحية. وتتمثل المشكلة الأكبر والأكثر تكلفة في الدين الفني الذي ينشأ عندما يتم نشر الأنظمة المتحيزة بسرعة كبيرة وتركها دون مراقبة – حيث يتم دفع الالتزامات الخفية، والتكاليف المركبة، وأعمال التنظيف إلى المستقبل.
الاستعجال في النشر يصبح الاندفاع في الإصلاح
سارعت الشركات إلى تطبيق أنظمة الذكاء الاصطناعي عبر بنيتها التحتية، مدفوعة بوعود الكفاءة وتوفير التكاليف. ولكن في ظل هذا الاندفاع، فإن العديد من الأنظمة ليست جاهزة ببساطة. في مثال يوم العمل، أصبح ما كان يهدف إلى تبسيط التوظيف مصدرًا للمخاطر القانونية وردود الفعل العكسية على السمعة.
إن التجارب السيئة التي يقودها الذكاء الاصطناعي لها تداعيات أوسع نطاقا؛ العملاء المفقودون، وزيادة حمل الخدمة، وانخفاض التحويل. والتأثير التجاري واضح بالفعل. وجدت الأبحاث التي أجراها Trustpilot من مركز أبحاث الاقتصاد والأعمال (Cebr) أنه على الرغم من أن استخدام المستهلك للذكاء الاصطناعي في التجارة الإلكترونية يتزايد بسرعة، فإن حالات الاستخدام الأكثر شيوعًا – مثل برامج الدردشة الآلية – غالبًا ما تؤدي إلى تجارب سلبية.
تأثير التموج حقيقي. يؤدي تفاعل واحد ضعيف مع الذكاء الاصطناعي إلى أن يخبر الناس، في المتوسط، اثنين آخرين – مما يضاعف التأثير. خلال العام الماضي وحده، قُدر أن 8.6 مليار جنيه إسترليني من مبيعات التجارة الإلكترونية في المملكة المتحدة معرضة للخطر بسبب تجارب الذكاء الاصطناعي السلبية، أي ما يعادل حوالي 6٪ من إجمالي سوق الإنفاق عبر الإنترنت.
إذا استمرت هذه التجارب السلبية، فإن هذه المسؤولية تتفاقم، ويندمج التحيز في تدفقات الخدمة، مما يزيد من الاضطراب، ويقلل التحويل، ويجعل إصلاح كل نقطة اتصال لاحقة مع العميل أكثر تكلفة. بدلاً من تحقيق وفورات في التكاليف، تدخل الشركات مباشرة في التكاليف الغارقة والالتزامات غير المخطط لها.
الإدماج كإجراء وقائي
أي شخص حاول إعادة طلاء غرفة دون تحريك الأثاث يعرف مدى صعوبة إصلاح الأساسات بمجرد أن يتحرك كل شيء بالفعل. إصلاح الذكاء الاصطناعي لا يختلف. يعد إصلاح أنظمة الأنظمة بعد طرحها أحد أكثر أشكال إعادة العمل تكلفة في مجال التكنولوجيا (يصل إلى ما بين عشرات إلى مئات الملايين وفقًا لـ Statistica). بمجرد تضمين التحيز في مجموعات البيانات أو المطالبات أو سير العمل أو افتراضات النماذج، يصبح من الصعب للغاية والمكلف التخلص منه.
وهنا الحقيقة غير المريحة – فبدلاً من تبسيط العمليات، تكتشف المؤسسات تراكمًا للتكاليف غير المدرجة في الميزانية – بدءًا من نماذج إعادة التدريب والرسوم القانونية، إلى التوضيحات التنظيمية والعمل المضني لإعادة بناء ثقة العملاء. وما يبدأ كطريق مختصر سرعان ما يتحول إلى نقطة ضعف هيكلية تستهلك الميزانية والوقت والمصداقية.
إن تصميم واختبار الذكاء الاصطناعي مع فرق تعكس تنوع عملائك ليس بالأمر الجيد – إنها الطريقة الأكثر موثوقية لمنع التحيز من دخول النظام في المقام الأول. والسؤال المطروح على القادة الآن ليس ما إذا كان التحيز موجودًا في أنظمتهم أم لا، بل ما إذا كانوا قد قاموا ببناء الرقابة للعثور عليه قبل أن يفعله العملاء.
ثلاثة إجراءات لمنع الديون المتحيزة للذكاء الاصطناعي
هناك طرق عملية للشركات لحماية نفسها من تحمل هذه الديون:
الملكية التنفيذية لنتائج الذكاء الاصطناعي: يجب التعامل مع التحيز والعدالة كقضايا أداء أساسية، وليس كمهام أخلاقية جانبية. يجب أن يمتلك شخص ما على المستوى التنفيذي نتائج الذكاء الاصطناعي وينشر مقاييس نجاح واضحة – سواء كان ذلك يتعلق بالمنتج أو التقنية أو المخاطر أو نموذج الحوكمة المشترك.
التنوع في مرحلة التطوير والاختبار: قم ببناء فرق تعكس مستخدميك الحاليين والمستقبليين. تعمل مجموعة واسعة من التجارب الحية على تقليل النقاط العمياء في اللحظات المحددة التي تميل فيها الأتمتة إلى الانهيار. في حالة استخدام أدوات تابعة لجهات خارجية، استفسر من الموردين حول كيفية تحديد التحيز والتخفيف منه.
المراقبة المستمرة والإشراف البشري: يتغير التحيز مع مرور الوقت. النماذج التي كانت عادلة قبل ستة أشهر يمكن أن تنجرف. إن التدقيق المنتظم واختبار الضغط الديموغرافي وحلقات تعليقات المستخدمين تحافظ على صدق الأنظمة. والحكم البشري – من الفرق المدربة على اكتشاف أنماط التصعيد – هو الضمان الأخير ضد القضايا الصغيرة التي تتحول إلى إخفاقات منهجية.
العدالة كبنية تحتية للأداء
إن المرحلة التالية من نضج الذكاء الاصطناعي سوف تكافئ الشركات التي تتعامل مع العدالة باعتبارها بنية تحتية للأداء – وليس باعتبارها خانة اختيار للامتثال.
يتصرف التحيز مثل الدين الفني، فهو يتفاقم بهدوء، ويبطئ الابتكار، ويزيد التكاليف، ويؤدي إلى تآكل الثقة قبل وقت طويل من ملاحظة القيادة. لم يقم أي فريق ببناء نظام يعرقل الأشخاص – ولكن الجمع بين السرعة والضغط والإشراف غير المكتمل يجعل من السهل على نحو مدهش اختراق النقاط العمياء.
الشركات التي تعمل على تحقيق العدالة منذ اليوم الأول سوف تتوسع بشكل أسرع وتلتزم بشكل أسرع وتنفق بشكل كبير على عمليات التنظيف. وأولئك الذين لا يدركون ذلك سيجدون أن التكلفة الحقيقية للتحيز ليست أخلاقية – إنها مالية وتشغيلية وتتعلق بالسمعة.
العدالة ليست مجردة. يشعر العملاء بذلك على الفور – في نغمة رسالة آلية، في الوقت الذي يستغرقه الوصول إلى الإنسان، في ما إذا كان النظام يبدو وكأنه يفهم ما يطلبونه بالفعل. في الذكاء الاصطناعي، لا يعد تنفيذ الأمر بشكل صحيح هو المسار الأخلاقي فحسب، بل هو المسار الذي يوفر التكلفة.
تحقق من قائمتنا لأفضل أدوات الذكاء الاصطناعي.
التعليقات