منظمة العفو الدولية لديها ميول عنصرية. يحاول العلماء والمؤسسون إصلاحه.

استخدمت الشرطة برنامج الذكاء الاصطناعي للتعرف على الوجه والذي حددها على أنها المشتبه به بناءً على صورة قديمة. تم رفض القضية لاحقًا، لكن اعتقال وودروف لا يزال مدرجًا في السجل العام للمحكمة الجزئية السادسة والثلاثين في ميشيغان.

قالت إدارة شرطة ديترويت إنها تقصر استخدام برنامج الذكاء الاصطناعي للتعرف على الوجه على جرائم العنف، وأن المطابقات التي تجريها هي مجرد خيوط تحقيق. هذا ليس قريبًا ما يكفي من الاحتياط لوودروف، الذي يرفع دعوى قضائية ضد المدينة وأحد رجال الشرطة، للحصول على تعويضات.

وقالت: “لم يكن علي أن أتعامل مع أي شيء إلى هذا الحد”. “غيرت حياتي تماما.”

ربما كان عرق وودروف وجنسها عاملاً في اعتقالها غير المشروع. وقال إيفان لاند، محامي وودروف: “لا أعتقد أن هذا كان سيحدث لامرأة بيضاء”.

إصدار الحكم

التعرف على الوجه AI, مثل النوع الذي تستخدمه إدارة شرطة ديترويت، تم تصميمه لتحديد وجوه محددة من مجموعات بيانات كبيرة من الصور. إنه أحد أنواع الذكاء الاصطناعي العديدة المستخدمة في جميع أنحاء العالم. وهذا معيب.

وجدت دراسة أجراها باحثا الذكاء الاصطناعي جوي بولامويني وتيمنيت جيبرو عام 2018، والذين قاموا بتقييم أدوات التعرف على الوجه التي تقدمها Microsoft وIBM وFace++، أن النساء ذوات البشرة الداكنة كن الأكثر عرضة للخطأ في التعرف على الوجه من خلال تقنية التعرف على الوجه، مع معدل خطأ. من 35%.

وبعد مرور ست سنوات، لا يزال الذكاء الاصطناعي يرتكب أخطاء مثيرة للقلق، بما في ذلك الخطأ في التعرف على الأشخاص ذوي البشرة الداكنة وإظهار التحيز عند مواجهة لغة مرتبطة بمتحدثين غير البيض.

وجدت دراسة نُشرت في شهر مارس وشارك في تأليفها فالنتين هوفمان، الباحث في معهد ألين للذكاء الاصطناعي، أنه عندما تم استخدام اللغة الإنجليزية الأمريكية الأفريقية لتحفيز النماذج بما في ذلك GPT-4 الخاص بـ OpenAI وT5 من Google، فإن الردود “تجسد العنصرية الخفية في الشكل من تحيز اللهجة.”

طلبت الدراسة من نماذج الذكاء الاصطناعي القيام بذلك إصدار الحكم في القضايا الجنائية الافتراضية حيث كان الدليل الوحيد هو كلام المدعى عليه إما باللغة AAE أو اللغة الإنجليزية الأمريكية القياسية. عندما تم استخدام AAE، كانت النماذج أكثر احتمالا للحكم بإدانة المتهمين.

ووجدت الدراسة أيضًا أنه في محاكمة قتل افتراضية، كانت نماذج الذكاء الاصطناعي أكثر عرضة لاقتراح عقوبة الإعدام لمتحدث AAE.

اقتراح رواية

أحد أسباب هذه الإخفاقات هو أن الأشخاص والشركات التي تبني الذكاء الاصطناعي لا تمثل العالم الذي من المفترض أن تحتويه نماذج الذكاء الاصطناعي.

في أغسطس 1955، افترض اقتراح لمجال جديد للدراسة في كلية دارتموث أن الذكاء يمكن أن يكون اصطناعيًا. شرع ثمانية باحثين – جميعهم من الرجال البيض – في البحث عن كيفية تفكير الآلات بناءً على الاتصالات التي تتم من خلال البيانات التي تم تغذيتها بها، والتي تحكمها مجموعات من القواعد.

وبعد مرور ما يقرب من 70 عامًا، لا تزال برامج تعليم علوم الكمبيوتر تبالغ في مؤشر المشاركين من البيض والذكور.

أفاد المركز الوطني لإحصاءات التعليم أنه في عام 1991، حصل الطلاب البيض على أكثر من 70% من درجات البكالوريوس في علوم الكمبيوتر، بينما حصل الطلاب السود على حوالي 8% من الدرجات العلمية.

وفي عام 2022، وهو آخر عام مسجل، حصل الطلاب البيض على حوالي 46% من درجات البكالوريوس في علوم الكمبيوتر، مقارنة بحوالي 9% للطلاب السود. حقق الطلاب الآسيويون أكبر مكاسب خلال تلك الفترة، حيث انتقلوا من تمثيل حوالي 8% من الدرجات العلمية إلى أكثر من 19%.

كما أن شركات التكنولوجيا الكبرى التي تقود تطوير الذكاء الاصطناعي ليست متنوعة بشكل خاص، على الرغم من سنوات من الجهود لتحسين هذا الوضع. في عام 2023، تم تحديد 13.6% من سكان الولايات المتحدة على أنهم أمريكيون من السود أو من أصل أفريقي. على النقيض من ذلك، أشار تقرير Microsoft 2023 DEI إلى أن 6.7% من القوى العاملة في الشركة كانوا من السود.

حدود البيانات

في التسعينيات، كان جيفري هينتون رائدًا في مجال الشبكات العصبية للتعلم العميق المصممة بشكل فضفاض على غرار الدماغ البشري. يتم تكوين الشبكات حسب حالة الاستخدام (على سبيل المثال، للتعرف على الوجه) ويجب تدريبها على مطابقة الأنماط أو الاستدلال. لكي تصبح هذه النماذج جيدة، تحتاج إلى الكثير من البيانات.

وقال كريستوفر لافاييت، مؤسس شركة GatherVerse، وهي منتدى تقني وشركة أحداث، لموقع Business Insider: “لا تحتوي النماذج على ما يكفي من البيانات السوداء. إنها غير موجودة”.

وقال أوجي أوديزو، كبير مسؤولي المنتجات في شركة Typeform، وهي شركة لبرمجيات المسح، إن محدودية توافر البيانات يمكن أن تؤدي إلى تضخيم عدم المساواة.

كان الوصول إلى الإنترنت في أفريقيا وجنوب شرق آسيا أبطأ بكثير منه في أمريكا الشمالية وأوروبا. البيانات عبر الإنترنت – الأساس لمعظم نماذج الذكاء الاصطناعي – تميل في الغالب إلى اللون الأبيض والغربي.

وقال أوديزو: “مجموعات البيانات الخاصة بالجنوب العالمي ليست متاحة على الإنترنت، ولا يمكن الزحف إليها أو دمجها”.

على سبيل المثال، غالبًا ما كان يتم قياس أداء أدوات التعرف على الوجه المبكرة من خلال معيار يعتمد على أكثر من 13000 صورة. ما يقرب من 84٪ من الأشخاص الموجودين في الصور كانوا من ذوي البشرة البيضاء.

يقول كتاب بولامويني الجديد، “Unmasking AI”، إن هذه الأداة كانت لسنوات هي المعيار لكيفية قيام الشركات، بما في ذلك Meta وGoogle وMicrosoft، بتقييم دقة عروض التعرف على الوجه الخاصة بها.

لقد تم تطوير الذكاء الاصطناعي إلى حد كبير من قبل الباحثين البيض وتم تدريبهم على الأدب والصور الغربية. ربما لا ينبغي أن يكون مفاجئًا أن هذه النماذج تقدم إجابات تفتقر إلى الفهم الثقافي وتقدم أداءً أدنى في تحديد النساء ذوات البشرة الداكنة.

وقد اعترفت شركات التكنولوجيا ببعض هذه التحديات. وصفت OpenAI التحيزات في أدواتها بأنها “أخطاء وليست ميزات” وقالت إنها “تعمل على مشاركة المعلومات الديموغرافية المجمعة” حول الأشخاص الذين يراجعون نماذج الذكاء الاصطناعي الخاصة بها.

لقد قامت الشركات في بعض الأحيان بالتصحيح الزائد. على سبيل المثال، أنتجت شركة Gemini التابعة لشركة Google صورًا لأشخاص ملونين في سياقات غير دقيقة تاريخيًا.

يقوم المؤسسون ببناء بدائل للعروض السائدة. في مايو 2023، أسس جون باسمور Latimer، وهو نموذج لغة كبير يستخدم GPT-3.5 لقدراته الأساسية. قبل أن يستجيب Latimer للمستخدمين، فإنه يسحب المعلومات من مجموعة بيانات Black الخاصة به في عملية تُعرف باسم الاسترجاع المعزز لمنح المستخدمين إجابات أكثر دقة.

نبذ الإقصاء

في مواجهة المد السريع لتطور الذكاء الاصطناعي، يحاول بعض الباحثين والمديرين التنفيذيين نسج بيانات متنوعة وأساليب أكثر إنصافًا في التكنولوجيا.

وقال بولامويني: “يمكننا استخدام الذكاء الاصطناعي للتغلب على التحيزات البشرية”. “إذا لم نهتم بالاختلافات ولم نتعمد أن نكون شاملين، فإننا نميل إلى التراجع عن التقدم الذي تم إحرازه بالفعل.”

إن التخلص من عادة الاستبعاد ليس بالأمر السهل. الآلات المصنوعة على صورة صانعيها تتعامل مع المراوغات والخصوصيات والتحيزات لدى هؤلاء الأشخاص، بغض النظر عن مدى حسن نواياهم.

وقال تيموثي باردلافينز، مدير أسهم المنتجات في شركة Adobe، لـ BI: “سواء كان ذلك بوعي أو بغير وعي، أعتقد أنه ميزة أكثر من كونه خطأ”.

يقود Bardlavens فريقًا يهدف إلى ضمان مراعاة العدالة ودمجها في أدوات Adobe AI. على سبيل المثال، تم تصميم منشئ الصور Firefly لتجنب الصور النمطية في تصوير مجموعات مثل النساء والأشخاص الملونين.

عندما طُلب من شركة Firefly إنشاء صور لطبيب يعالج الأطفال في أفريقيا، أنتجت صورًا لأطباء وأطباء سود.

نفس المطالبة التي تم إرسالها إلى Microsoft Copilot Designer في 18 مارس أنتجت صورًا لرجال بيض.

وقال باردلافينز إن عدداً قليلاً من الشركات تعمل على تطوير التكنولوجيا من خلال الإنشاء المشترك، والذي يتضمن الحصول على مدخلات من أشخاص خارج شركات الذكاء الاصطناعي لدمج تجاربهم في تطوير المنتجات.

وأضاف باردلافينز أنه بدون ذلك “ستفقد قيمة جعل المجتمعات تقدم تعليقات حول تجاربها”. “من المستحيل بناء تكنولوجيا لا تعمل بطريقة ما على تضخيم معتقدات الخالق.”

إن التركيز المتزايد على من يصنع نماذج الذكاء الاصطناعي وعلى البيانات التي يتم تدريبهم عليها يمثل فرصة متزايدة للشمول.

أصبحت إستر دايسون أول مستثمر في شركة لاتيمر لأنها رأت قدرة الشركة الناشئة على معالجة ميل الذكاء الاصطناعي المقلق لتجاهل تاريخ وثقافة السود.

قال دايسون لـ BI: “لن يحل الذكاء الاصطناعي كل هذه المشاكل، لكنه سيفعل ما نطلب منه كبشر. استخدم Latimer، واطلب منه العثور على التاريخ المخفي”. “قيمة الذكاء الاصطناعي ليست في العقد، بل في الحواف والعلاقة بين أنواع البيانات.”

وقالت إن الشركات التي تعطي الأولوية لتدريب نماذجها على أفضل البيانات وأكثرها تمثيلاً ستكون في النهاية الأكثر نجاحًا.

جهود آلزا

يتذكر أرتورو فيلانويفا أنه عمل كوسيط بين والديه والنظام المصرفي الأمريكي عندما كان في التاسعة من عمره.

“كنت أتصل بالبنك، وأتحدث معهم باللغة الإنجليزية، ثم أتحدث إلى والدي باللغة الإسبانية، وبعد ذلك كنت أواجه مشكلة لعدم قدرتي على ترجمة كلمات مثل “الرهن العقاري” أو “تحمل الفائدة”.” قال. “وأنا أقول، عمري 9 سنوات فقط، كيف من المفترض أن أفعل هذا؟”

فيلانويفا هي المؤسس والرئيس التنفيذي لشركة Alza، وهي شركة للتكنولوجيا المالية، تستخدم تقنيات الذكاء الاصطناعي مثل الرؤية الحاسوبية والتعلم الآلي لمساعدة اللاتينيين وغيرهم من المتحدثين باللغة الإسبانية في الوصول بشكل أفضل إلى الخدمات المالية مثل المدخرات والحسابات الجارية والمدفوعات عبر الحدود.

في بعض الأحيان يكون لدى هؤلاء المستهلكين تاريخ ائتماني أو وثائق هوية أقصر تعتبرها البنوك غير عادية.

تم تصميم الأدوات المصرفية المدعمة بالذكاء الاصطناعي من Alza للتفاعل مع الأشخاص الذين يتحدثون العديد من اللهجات العامية للغة الإسبانية وللاستيعاب بشكل أفضل أنواع وثائق الطلبات التي يمكن أن تواجهها البنوك التقليدية، مثل الهوية الصادرة عن بعض دول أمريكا اللاتينية.

ومع ذلك، تتبنى شركة Alza الذكاء الاصطناعي بعناية، نظرًا لأصول التكنولوجيا المضطربة.

وقال أندرو ماهون، رئيس قسم الهندسة في شركة ألزا: “إننا نخطو بحذر نحو استخدام الذكاء الاصطناعي”. “إن القفز بسرعة كبيرة إلى الذكاء الاصطناعي يعني المخاطرة بنشر نموذج متحيز قد يسيء تفسير بياناتنا.”