تدرس شركة تويتر حالياً السبب الذي يجعل الشبكة العصبية التي تستعملها في توليد طريقة عرض الصور تختار إظهار الوجوه البيضاء وتفضلها على الوجوه السوداء.
استعرض عدد من مستخدمي تويتر المشكلة في نهاية الأسبوع، ونشروا أمثلة لمنشوراتٍ بها وجه شخص أبيض ووجه شخص أسود. وكانت النتيجة أن عرض موقع تويتر الوجوه البيضاء أكثر من الوجوه السوداء.
بدأت تلك الاختبارات غير الرسمية بعد أن حاول مستخدم على تويتر وضع منشور عن مشكلة لاحظها في تكنولوجيا التعرف على الوجوه في Zoom، حيث لم يظهر تطبيق مكالمات الفيديو وجه زميله الأسود في المكالمات. وحين نشر الأمر على تويتر، لاحظ أن موقع تويتر أيضاً يفضل وجهه الأبيض على وجه زميله الأسود.
واكتشف المستخدمون أن الخوارزمية تفضل عرض شخصيات الكرتون غير السوداء كذلك.
حين بدأ موقع تويتر في استعمال الشبكات العصبية في قص الصور آلياً وعرضها، شرح باحثون في تعلم الآلة في منشور مدونة كيف بدأوا بتكنولوجيا التعرف على الوجوه من أجل قص الصور، لكن وجدوا أنها ناقصة لأنه ليست كل الصور تحتوي على وجوه: “في السابق، استعملنا التعرف على الوجوه في التركيز على أبرز وجه في الصورة. ومع أن هذه وسيلة معقولة، إلا أن لها عيوبها لأنه لا يشترط وجود وجوه في الصور. إضافةً إلى ذلك، لم ترَ برمجية التتبع الوجوه في أحيان كثيرة، وأحياناً اخرى رأت وجوهاً حيث لا يوجد شيء. وإن لم تر البرمجية وجوهاً، فإنها تركز على وسط الصورة، وهذا يؤدي إلى صورٍ مقصوصة بطريقة غريبة”.
وغرد كبير مسؤولي التصميم بشركة تويتر، دانتلي دافيس، أن الشركة تحقق في مسألة الشبكة العصبية، وأنه تجرى بعض التجارب غير العلمية باستعمال صور متشابهة لرجال بيض وسود.
وغردت ليز كيلي من فريق الاتصالات بالشركة يوم الأحد، 20 سبتمبر/أيلول، أن الشركة اختبرت الخوارزمية لتتفقد الانحياز لكنها لم تجد أدلة على الانحياز العرقي أو الجنسي في اختباراتها. وأضافت كيلي: “من الواضح أنه ما زال أمامنا المزيد من التحليلات لنقوم بها. وسنجعل عملنا مفتوح المصدر لكي يراجعه ويستنسخه آخرون”.
وغرد المدير التقني بالشركة، باراج أغراوال، أن النموذج يحتاج إلى “تحسين مستمر”، وأضاف أنه “متحمس للتعلم” من التجارب التي ستجريها الشركة.
