أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» دليل تحيّزات الذكاء الاصطناعي، متضمنًا أكثر من 100 نوع من التحيّزات التي قد تؤثر في دقة الأنظمة وعدالتها، مع تعريفها وتوضيح تأثيراتها وسبل الحد منها لبناء أنظمة أكثر شفافية وإنصافًا.
نوع من تحيزات الذكاء الاصطناعي
قد تتأثران بالبيانات غير المتوازنة
عبر دورة حياة النظام
ما تحيّز الذكاء الاصطناعي؟
يظهر التحيّز عندما لا تمثل البيانات المستخدمة في نظام الذكاء الاصطناعي نطاق السيناريوهات والفئات ذات الصلة بصورة متوازنة، أو عندما تؤدي طريقة جمع البيانات أو اختيارها إلى تمثيل بعض المجموعات بصورة أكبر من غيرها.
إذا تدربت أداة توظيف على بيانات تاريخية يغلب عليها مرشحون من فئة معينة، فقد تتعلم أنماطًا تعكس هذا التفاوت، ما قد يؤثر في تقييم مرشحين مؤهلين من فئات أخرى.
كيف يمكن أن يؤثر التحيّز؟
قد يؤدي التحيّز إلى تفاوت في جودة الخدمات بين فئات المستخدمين، أو تعزيز فروق قائمة، أو الوصول إلى نتائج لا تمثل الفئات المستهدفة بصورة مناسبة.
تفاوت في جودة النتائج أو الخدمات بين فئات مختلفة.
بيانات تدريب غير متوازنة قد تجعل النموذج يتعلم أنماطًا لا تمثل الجميع.
مراجعة بيانات التدريب والاختبار وتمثيل المستخدمين والسيناريوهات بصورة متوازنة.
الحد من التحيّز يبدأ من البيانات ولا ينتهي عندها
معالجة التحيّز لا تقتصر على تدريب النموذج؛ بل تشمل مصادر البيانات وآليات الاختيار والتصنيف والاختبار ومراقبة أداء النظام بعد التشغيل.
وتبرز هنا أهمية ISO 8000 لإدارة وجودة البيانات في فهم دور جودة البيانات واتساقها.
التحيّز جزء من حوكمة مخاطر الذكاء الاصطناعي
بالنسبة للمنظمات، التعامل مع التحيّز يحتاج إلى مسؤوليات وضوابط ومتابعة مستمرة عبر دورة حياة النظام. ويرتبط ذلك بـ ISO/IEC 42001 andإطار سدايا لإدارة مخاطر الذكاء الاصطناعي.
ماذا يعني ذلك للمنظمات؟
قبل الاعتماد على مخرجات نظام ذكاء اصطناعي في قرار مؤثر، ينبغي فهم البيانات التي بُني عليها، واختبار أدائه على الفئات والسيناريوهات ذات الصلة، ومراقبة النتائج بعد التشغيل. فالعدالة والشفافية جزء من تصميم النظام وإدارته منذ البداية.
دليل تحيّزات الذكاء الاصطناعي
يمكن الاطلاع على إصدار سدايا لمعرفة أنواع التحيّزات وتعريفاتها وتأثيراتها.
