قالت شركة جوجل يوم الخميس إنها ستوقف مؤقتًا برنامج الدردشة الآلي Gemini للذكاء الاصطناعي من إنشاء صور للأشخاص بعد يوم من اعتذارها عن “عدم الدقة” في الصور التاريخية التي كانت تنشئها.
نشر مستخدمو جيميني هذا الأسبوع لقطات شاشة على وسائل التواصل الاجتماعي لمشاهد يهيمن عليها البيض تاريخيًا مع شخصيات متنوعة عرقيًا يقولون إنها ولدتها، مما دفع النقاد إلى إثارة تساؤلات حول ما إذا كانت الشركة تبالغ في تصحيح خطر التحيز العنصري في نموذج الذكاء الاصطناعي الخاص بها.
وقالت جوجل في منشور على منصة التواصل الاجتماعي X: “إننا نعمل بالفعل على معالجة المشكلات الأخيرة المتعلقة بميزة إنشاء صور Gemini”. “بينما نقوم بذلك، سنقوم بإيقاف إنشاء صور الأشخاص مؤقتًا وسنعيد إطلاق نسخة محسنة قريبًا.”
وقد أظهرت الدراسات السابقة أن مولدات الصور التي تعتمد على الذكاء الاصطناعي يمكنها تضخيم الصور النمطية العنصرية والجنسانية الموجودة في بيانات التدريب الخاصة بهم، وبدون مرشحات من المرجح أن يظهروا رجالًا ذوي بشرة فاتحة عندما يُطلب منهم إنشاء شخص في سياقات مختلفة.
قالت Google يوم الأربعاء إنها “تدرك أن Gemini تقدم معلومات غير دقيقة في بعض الصور التاريخية التي تم إنشاؤها للصور” وأنها “تعمل على تحسين هذه الأنواع من الصور على الفور”.
يمكن لـ Gemini توليد “مجموعة واسعة من الأشخاص”، وهو ما قالت الشركة إنه “أمر جيد بشكل عام” لأن الأشخاص في جميع أنحاء العالم يستخدمون النظام ولكنه “يفتقد العلامة”.
قال الباحث في جامعة واشنطن، سوروجيت غوش، الذي درس التحيز في مولدات الصور بالذكاء الاصطناعي، إنه يؤيد قيام جوجل بإيقاف توليد وجوه الأشخاص مؤقتًا، لكنه “متضارب قليلاً حول كيفية وصولنا إلى هذه النتيجة”. على عكس ادعاءات ما يسمى بـ “المحو الأبيض” والفرضية القائلة بأن الجوزاء يرفض إنشاء وجوه للأشخاص البيض – الأفكار المتداولة على وسائل التواصل الاجتماعي هذا الأسبوع – فقد وجد بحث غوش عكس ذلك إلى حد كبير.
وقال: “إن سرعة هذه الاستجابة في مواجهة الكثير من الأدبيات الأخرى والكثير من الأبحاث الأخرى التي أظهرت أن الأشخاص المهمشين تقليديًا يتم محوهم من خلال نماذج مثل هذه – أجد صعوبة في التوفيق بينها”.
عندما طلبت وكالة أسوشييتد برس من شركة Gemini إنشاء صور لأشخاص، أو حتى مجرد حشد كبير، ردت بالقول إنها “تعمل على تحسين” القدرة على القيام بذلك. وقال برنامج الدردشة الآلي: “نتوقع عودة هذه الميزة قريبًا وسنخطرك في تحديثات الإصدار عند حدوثها”.
وقال غوش إنه من المحتمل أن تتمكن جوجل من إيجاد طريقة لتصفية الردود لتعكس السياق التاريخي لمطالبة المستخدم، ولكن حل الأضرار الأوسع التي تشكلها مولدات الصور المبنية على أجيال من الصور والأعمال الفنية الموجودة على الإنترنت يتطلب أكثر من مجرد تصحيح تقني. .
وقال: “لن تتمكن بين عشية وضحاها من التوصل إلى مولد لتحويل النص إلى صورة لا يسبب أي ضرر تمثيلي”. “إنهم انعكاس للمجتمع الذي نعيش فيه.”