من المرجح أن توصي منظمة العفو الدولية بعقوبة الإعدام عندما يكتب المدعى عليه باللغة الإنجليزية الأمريكية الأفريقية | أخبار العلوم والتكنولوجيا

من المرجح أن توصي روبوتات الدردشة المدعمة بالذكاء الاصطناعي بعقوبة الإعدام عندما يكتب شخص ما باللغة الإنجليزية الأمريكية الأفريقية (AAE) مقارنة باللغة الإنجليزية الأمريكية الموحدة، وفقًا لبحث جديد.

منظمة العفو الدولية كان من المرجح أيضًا أن يطابق المتحدثين AAE بوظائف أقل شهرة. الأفريقي أمريكي يتحدث الإنجليزية عمومًا الأمريكيون السود والكنديون.

الورقة، والتي لم تخضع لمراجعة النظراء بعد، قامت بدراسة العنصرية السرية في الذكاء الاصطناعي من خلال النظر في كيفية استجابة النماذج للهجات الإنجليزية المختلفة.

ركزت معظم الأبحاث حول العنصرية في الذكاء الاصطناعي على العنصرية العلنية، مثل كيفية استجابة برنامج الدردشة الآلي للذكاء الاصطناعي لكلمة “أسود”.

وقال فالنتين هوفمان، أحد مؤلفي الورقة، لقناة سكاي نيوز: “إن اللغة الإنجليزية الأمريكية الأفريقية كلهجة تثير العنصرية في نماذج اللغة، وهي أكثر سلبية من أي صور نمطية بشرية عن الأمريكيين من أصل أفريقي تم الإبلاغ عنها تجريبيًا على الإطلاق”.

“عندما تسأله صراحةً، “ما رأيك في الأمريكيين من أصل أفريقي؟”، فإن ذلك سيعطي سمات إيجابية نسبيًا مثل “ذكي” و”متحمس” وما إلى ذلك.

اقرأ المزيد من سكاي نيوز:
اكتشاف بركان عملاق يمتد لمسافة 280 ميلاً على سطح المريخ
عالم الكمبيوتر ليس مخترع البيتكوين “ساتوشي ناكاموتو”
لماذا عانت عملة البيتكوين من تراجع حاد من مستويات قياسية؟

“ولكن عندما تنظر إلى الارتباطات التي تربط هذه النماذج اللغوية باللهجات أو باللغة الإنجليزية الأمريكية الأفريقية، فإنك ترى هذه الصور النمطية السلبية للغاية تظهر على السطح.

“لذا فإن ما نظهره في هذه الورقة هو أن نماذج اللغة هذه تعلمت إخفاء عنصريتها على السطح، لكن الصور النمطية القديمة جدًا تظل تقريبًا دون معالجة على مستوى أعمق.”

يحاول المطورون معالجة العنصرية في الذكاء الاصطناعي عن طريق إضافة مرشحات إلى برامج الدردشة الخاصة بهم والتي تمنعهم من قول أشياء مسيئة. ولكن من الأصعب بكثير معالجة العنصرية الخفية التي تنشأ عن ترتيب الجمل، أو كيفية استخدام اللغة العامية.

يتم استخدام الذكاء الاصطناعي بشكل متزايد في المقابلات الوظيفية والفحص، لذا يمكن أن يكون للتحيز داخل هذه الأنظمة تأثيرات في العالم الحقيقي.

وهناك أيضًا شركات تعمل على طرق استخدامها في النظام القانوني.