لا يمكن لمولد الصور بالذكاء الاصطناعي التابع لـ Meta أن يتخيل رجلاً آسيويًا مع امرأة بيضاء

هل سبق لك أن رأيت شخصًا آسيويًا مع شخص أبيض، سواء كانا زوجين مختلطي العرق أو صديقين من أعراق مختلفة؟ يبدو الأمر شائعًا جدًا بالنسبة لي – لدي الكثير من الأصدقاء البيض!

بالنسبة لمولد الصور المدعوم بالذكاء الاصطناعي التابع لـ Meta، يبدو أن هذا أمر مستحيل تخيله. لقد حاولت عشرات المرات إنشاء صورة باستخدام مطالبات مثل “رجل آسيوي وصديق قوقازي”، و”رجل آسيوي وزوجة بيضاء”، و”امرأة آسيوية وزوج قوقازي”. مرة واحدة فقط تمكن منشئ الصور الخاص بـ Meta من إرجاع صورة دقيقة تظهر السباقات التي حددتها.

لا يبدو أن التغيير والتبديل في المطالبة النصية يساعد. عندما سألت عن “رجل آسيوي وامرأة بيضاء يبتسمان مع كلب”، أعطاني منشئ النصوص الخاص بـ Meta على Instagram ثلاث صور متتالية لشخصين آسيويين. وعندما غيرت كلمة “أبيض” إلى “قوقازي”، حدث الشيء نفسه. “رجل آسيوي وامرأة قوقازية في يوم الزفاف” أعطاني رجلاً آسيويًا يرتدي بدلة وامرأة آسيوية ترتدي ثوبًا تقليديًا… إلا بعد مزيد من الفحص، يبدو أنه مزيج من تشيباو وكيمونو. التعددية الثقافية مذهلة.

لم يعجب منشئ الصور أيضًا عندما طلبت تمثيلات للعلاقات الأفلاطونية، مثل “رجل آسيوي مع صديق قوقازي” و”امرأة آسيوية وصديق أبيض”. وفي كل مرة، أعادت صورًا لشخصين آسيويين. عندما طلبت صورة “امرأة آسيوية مع صديق أسود”، أظهرت الصورة التي تم إنشاؤها بواسطة الذكاء الاصطناعي امرأتين آسيويتين. أدى التغيير والتبديل إلى “امرأة آسيوية مع صديق أمريكي من أصل أفريقي” إلى نتائج أكثر دقة.

ومن المثير للاهتمام أن أداء الأداة كان أفضل قليلاً عندما حددت الأشخاص من جنوب آسيا. لقد نجحت في إنشاء صورة باستخدام المطالبة “رجل من جنوب آسيا مع زوجة قوقازية” – قبل إنشاء صورة لشخصين من جنوب آسيا على الفور باستخدام نفس المطالبة. كما انحنى النظام بشدة إلى الصور النمطية، مثل إضافة عناصر تشبه البندي والساري إلى النساء في جنوب آسيا الذي أنشأه دون أن أطلب ذلك.

إن عدم قدرة منشئ الصور على تصور وقوف الآسيويين بجانب الأشخاص البيض أمر فظيع. ولكن هناك أيضًا مؤشرات أكثر دقة على التحيز فيما يقوم النظام بإرجاعه تلقائيًا. على سبيل المثال، لاحظت أن أداة ميتا كانت تمثل باستمرار “النساء الآسيويات” باعتبارهن ذوات مظهر شرق آسيوي وبشرة فاتحة، على الرغم من أن الهند هي الدولة الأكثر اكتظاظا بالسكان في العالم. لقد أضافت ملابس محددة ثقافيًا حتى عندما لا يطلب ذلك. لقد أنجبت العديد من الرجال الآسيويين الأكبر سناً، لكن النساء الآسيويات كن دائمًا شابات.

الصورة الوحيدة التي تم إنشاؤها بنجاح استخدمت عبارة “امرأة آسيوية مع زوج قوقازي” وظهرت رجلاً أكبر سنًا بشكل ملحوظ مع امرأة آسيوية شابة ذات بشرة فاتحة – وهو أمر غريب لأنني لا أحاول الخوض في خطاب الفجوة العمرية. وبعد ذلك مباشرة، قمت بإنشاء صورة أخرى باستخدام نفس الموجه، وعادت مرة أخرى لإظهار رجل آسيوي (أكبر أيضًا) مع امرأة آسيوية.

لم تستجب ميتا على الفور لطلب التعليق.

قدمت شركة Meta أدوات إنشاء الصور بتقنية الذكاء الاصطناعي العام الماضي، وسرعان ما خرجت أداة إنشاء الملصقات الخاصة بها عن القضبان حيث قام الأشخاص بإنشاء أشياء مثل الصور العارية وشخصيات Nintendo بالبنادق.

تعكس أنظمة الذكاء الاصطناعي تحيزات المبدعين والمدربين ومجموعة البيانات التي يستخدمونها. في وسائل الإعلام الأمريكية، عادة ما تعني كلمة “آسيوي” شخصًا من شرق آسيا، على عكس الأشخاص من أجزاء أخرى من القارة – ربما ليس من المستغرب أن يفترض نظام ميتا أن جميع الأشخاص “الآسيويين” يبدون متشابهين، في حين أننا، في الواقع، مجموعة متنوعة من الأشخاص الذين ليس لديهم في كثير من الأحيان سوى القليل من القواسم المشتركة إلى جانب تحديد العلامات نفس صندوق التعداد

أما الآسيويون الذين لا ينتمون إلى الكتلة المتجانسة فيتم محوهم من الوعي الثقافي، وحتى أولئك الذين يندمجون في هذه الكتلة فإن تمثيلهم ناقص في وسائل الإعلام الرئيسية. لقد أصبح الآسيويون متجانسين، وغريبين، ومنخفضين إلى مرتبة “الأجانب الدائمين”. يعد كسر الكتابة أمرًا سهلاً في الحياة الواقعية ومستحيلًا في نظام الذكاء الاصطناعي الخاص بـ Meta. مرة أخرى، يقوم الذكاء الاصطناعي التوليدي، بدلاً من السماح للخيال بالتحليق، بحبسه ضمن إضفاء الطابع الرسمي على دوافع المجتمع الغبية.