أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» دليل تحيّزات الذكاء الاصطناعي، متضمنًا أكثر من 100 نوع من التحيّزات التي قد تؤثر في دقة الأنظمة وعدالتها، مع تعريفها وتوضيح تأثيراتها وسبل الحد منها لبناء أنظمة أكثر شفافية وإنصافًا.

ما تحيّز الذكاء الاصطناعي؟

يظهر التحيّز عندما لا تمثل البيانات المستخدمة في نظام الذكاء الاصطناعي نطاق السيناريوهات والفئات ذات الصلة بصورة متوازنة، أو عندما تؤدي طريقة جمع البيانات أو اختيارها إلى تمثيل بعض المجموعات بصورة أكبر من غيرها.

كيف يمكن أن يؤثر التحيّز؟

قد يؤدي التحيّز إلى تفاوت في جودة الخدمات بين فئات المستخدمين، أو تعزيز فروق قائمة، أو الوصول إلى نتائج لا تمثل الفئات المستهدفة بصورة مناسبة.

الحد من التحيّز يبدأ من البيانات ولا ينتهي عندها

معالجة التحيّز لا تقتصر على تدريب النموذج؛ بل تشمل مصادر البيانات وآليات الاختيار والتصنيف والاختبار ومراقبة أداء النظام بعد التشغيل.

وتبرز هنا أهمية ISO 8000 لإدارة وجودة البيانات في فهم دور جودة البيانات واتساقها.

التحيّز جزء من حوكمة مخاطر الذكاء الاصطناعي

بالنسبة للمنظمات، التعامل مع التحيّز يحتاج إلى مسؤوليات وضوابط ومتابعة مستمرة عبر دورة حياة النظام. ويرتبط ذلك بـ ISO/IEC 42001 وإطار سدايا لإدارة مخاطر الذكاء الاصطناعي.