أصبحت تقنية التعرف على الوجه منتشرة على نطاق واسع الآن، ولكنها قد لا تتعرف عليك بعد

لكن بعض السائقين يقولون إن فحص التعرف على الوجه أخرجهم من التطبيق بعد التحقق من الهوية – على الرغم من أنهم كانوا يستخدمون حسابًا باسمهم.

وتبين أن هذه الأنواع من التجارب ليست غير عادية في العالم الأوسع للتعرف على الوجه. علاوة على ذلك، فهي شائعة بشكل خاص إذا كنت شخصًا ملونًا.

كثيرًا ما يخطئ التعرف على الوجه في التعرف على الأشخاص الملونين

وجدت جوي بولامويني، الباحثة في مختبر الوسائط بمعهد ماساتشوستس للتكنولوجيا، أن تقنية التعرف على الوجه أخطأت في التعرف على النساء السود بنسبة تصل إلى 35% من الحالات، حسبما ذكرت صحيفة نيويورك تايمز في عام 2018. وعلى النقيض من ذلك، تم التعرف على الرجال البيض بشكل خاطئ في 1% فقط من الحالات.

السبب: يتم إنشاء نماذج الذكاء الاصطناعي بشكل غير متناسب باستخدام صور الرجال البيض. وقالت الدراسة إنه عندما يتم استخدام عدد أقل من الصور لأشخاص من مجموعات عرقية وجنسية أخرى، فإن تقنية التعرف على الوجه تكون أقل دقة في التعرف على الأشخاص من تلك الخلفيات.

قدمت دراسة اتحادية في عام 2019 أدلة مماثلة، حيث وجدت أن الأشخاص الآسيويين والأمريكيين من أصل أفريقي والنساء كانوا أكثر عرضة للتعرف بشكل خاطئ على التكنولوجيا مقارنة بالرجال البيض.

ووجد تقرير صدر عام 2022 من قبل MIT Technology Review أن ميزة التعرف على الوجه في Uber – المستخدمة للتحقق من الهوية، على غرار Spark – يمكن أن تكون قد أخطأت في التعرف على السائقين في الهند، ويرجع ذلك جزئيًا إلى أن نماذج الذكاء الاصطناعي ليست مدربة جيدًا على وجوه جنوب آسيا مثل الوجوه البيضاء. .

وأشار التقرير أيضًا إلى أن تغيير المظهر البسيط مثل إطلاق اللحية يمكن أن يمنع التقنية من اكتشاف وجه شخص ما.

يقول مطورو تقنية التعرف على الوجه إن الأخطاء ممكنة

ويبدو أن أياً من ذلك لم يمنع التكنولوجيا من الانتشار في أماكن جديدة. أضاف كبار الملاك التكنولوجيا إلى مباني المكاتب مع عودة العمال إلى مكاتبهم، على سبيل المثال.

ذكرت صحيفة نيويورك تايمز في فبراير أن ركاب الخطوط الجوية يمكن أن يواجهوا التعرف على الوجه في نقاط متعددة في المطار، من الخط الأمني ​​إلى الجمارك ومراقبة الجوازات.

عملت Walmart مع شركة تدعى Persona لإضافة خاصية التعرف على الوجه إلى تطبيق Spark الخاص بها. على الرغم من أن موقع بيرسونا لا يذكر على وجه التحديد مشكلة تحديد الأشخاص ذوي البشرة الملونة، إلا أنه يعترف بأن التكنولوجيا بها مخاطر.

“على سبيل المثال، قد تخدع نظارات شخص ما النظام وتجعله يعتقد أنها انعكاس على الشاشة، أو قد تخدع صورة منخفضة الدقة النظام ليعتقد أنها إعادة تشغيل رقمية”، كما جاء في موقعها الإلكتروني.

“قد تزيد أوجه القصور هذه من خطر النتائج السلبية الكاذبة أثناء عملية التحقق، مما قد يؤدي إلى رفض التحقق من المستخدمين الشرعيين”. لم تستجب شركة Persona وWalmart لطلبات BI للحصول على معلومات حول التكنولوجيا أو الشراكة.

لم تستجب TSA وCBP لطلبات التعليق من BI. وقال متحدث باسم إدارة أمن المواصلات لصحيفة نيويورك تايمز في فبراير/شباط إن وقف تكنولوجيا القياسات الحيوية مثل التعرف على الوجه “سيعيدنا سنوات إلى الوراء”، لكنه لم يتناول التفاوت العرقي على وجه التحديد.

محاولات تجار التجزئة لاستخدام التعرف على الوجه للقبض على السارقين لم تسر على ما يرام.

في بعض الحالات، من الممكن إلغاء الاشتراك في استخدام تقنية التعرف على الوجه — ومعدل الخطأ المرتفع فيها. إذا كان الصعود إلى رحلتك القادمة يتطلب مسح وجهك بدلاً من بطاقة الصعود، على سبيل المثال، فمن المفترض أن يعرض عليك وكيل البوابة فحصًا يدويًا لبطاقة هويتك وبطاقة المرور بدلاً من ذلك، وفقًا لمكتب الجمارك وحماية الحدود.

وقال جدعون كريستيان، أستاذ القانون بجامعة كالجاري، الذي كتب عن الجوانب القانونية والمجتمعية لتكنولوجيا التعرف على الوجه، إن تجنب التعرف على الوجه ليس ممكنًا في كثير من الأحيان. وأشار إلى قرار بعض تجار التجزئة باستخدام التكنولوجيا في متاجرهم للقبض على السارقين.

في ديسمبر/كانون الأول، على سبيل المثال، قالت لجنة التجارة الفيدرالية (FTC) إن سلسلة صيدليات “Rite Aid” استخدمت تقنية التعرف على الوجه بشكل غير صحيح في “مئات المتاجر” على حساب النساء والأشخاص ذوي البشرة الملونة.

وقال صامويل ليفين، مدير مكتب حماية المستهلك التابع للجنة التجارة الفيدرالية، في ذلك الوقت، إن استخدام Rite Aid لتقنية التعرف على الوجه “ترك عملائها يواجهون الإذلال والأضرار الأخرى، كما أن انتهاكات أوامرها تعرض المعلومات الحساسة للمستهلكين للخطر”.

ونتيجة لذلك، منعت لجنة التجارة الفيدرالية (FTC) شركة Rite Aid من استخدام تقنية التعرف على الوجه في المتاجر لمدة خمس سنوات. قبلت Rite Aid التسوية لكنها شككت في مزاعم لجنة التجارة الفيدرالية حول كيفية ومكان استخدام التعرف على الوجه – وقالت الشركة إنها اختبرت التقنية فقط في “عدد محدود من المتاجر”، على سبيل المثال.

وقال كريستيان إن التحيز العنصري في تقنية التعرف على الوجه هو نفس التحيز الذي يعاني منه السود بالفعل عندما يذهبون للتسوق.

وقال كريستيان في مقابلة: “لديك في الأساس تقنية التعرف على الوجه التي تقدم نفس الادعاءات التي لا أساس لها، لأن الوجه يتطابق مع شخص آخر في قاعدة البيانات ثم يطلق التنبيهات”.

أخبر كريستيان BI أن افتقاره إلى الخصوصية ومشكلات الدقة يجب أن يكون سببًا كافيًا للتراجع عن استخدامه.

وقال: “لا أعتقد أنه من المناسب لنا أن ننتهك الحق الأساسي لكل شخص يدخل إلى متجر بيع بالتجزئة لمجرد أننا نريد القبض على عدد قليل من سارقي المتاجر”.

هل تعمل لدى Walmart Spark أو Instacart أو DoorDash أو أي خدمة توصيل أخرى ولديك فكرة قصة لمشاركتها؟ تواصل مع [email protected]