دنفر (ا ف ب) – يساعد الذكاء الاصطناعي في تحديد الأميركيين الذين سيحصلون على مقابلة العمل، أو الشقة، أو حتى الرعاية الطبية، ولكن أول المقترحات الرئيسية لكبح التحيز في عملية صنع القرار في الذكاء الاصطناعي تواجه رياحًا معاكسة من كل اتجاه.
اجتمع المشرعون الذين يعملون على مشاريع القوانين هذه، في ولايات من بينها كولورادو وكونيتيكت وتكساس، يوم الخميس لمناقشة مقترحاتهم في الوقت الذي تلعب فيه المجموعات الموجهة نحو الحقوق المدنية والصناعة لعبة شد الحبل مع المكونات الأساسية للتشريع.
“كل مشروع قانون نصدره سينهي العالم كما نعرفه. قال زعيم الأغلبية الديمقراطية في مجلس الشيوخ في كولورادو روبرت رودريغيز يوم الخميس: “هذا هو القاسم المشترك الذي تسمعه عندما تدير السياسات”. “نحن هنا مع سياسة لم يتم تطبيقها في أي مكان إلى الحد الذي قمنا به، وهو سقف زجاجي نحاول كسره في محاولة اتباع سياسة جيدة.”
تسعى المنظمات، بما في ذلك النقابات العمالية ومجموعات الدفاع عن المستهلك، إلى الحصول على مزيد من الشفافية من الشركات وزيادة اللجوء القانوني للمواطنين لرفع دعوى قضائية بشأن التمييز في مجال الذكاء الاصطناعي. تقدم الصناعة دعمًا مبدئيًا ولكنها تتمسك بتدابير المساءلة تلك.
كانت مجموعة المشرعين من الحزبين الجمهوري والديمقراطي العالقين في المنتصف – بما في ذلك المشرعون من ألاسكا وجورجيا وفيرجينيا – تعمل معًا على تشريع الذكاء الاصطناعي في مواجهة التقاعس الفيدرالي. وفي يوم الخميس، سلطوا الضوء على عملهم عبر الولايات وأصحاب المصلحة، وشددوا على الحاجة إلى تشريعات بشأن الذكاء الاصطناعي وتعزيز أهمية التعاون والتسوية لتجنب التناقضات التنظيمية عبر خطوط الولاية. وجادلوا أيضًا بأن مشاريع القوانين هي خطوة أولى يمكن البناء عليها للمضي قدمًا.
وقالت السيناتور الجمهوري عن ألاسكا شيلي هيوز في المؤتمر الصحفي: “إنها حدود جديدة، وبطريقة ما، نوع من الغرب المتوحش”. “لكنه تذكير جيد بأن التشريع الذي تم إقراره ليس ثابتا، ويمكن تعديله بمرور الوقت.”
في حين تتم مناقشة أكثر من 400 مشروع قانون يتعلق بالذكاء الاصطناعي هذا العام في المجالس الحكومية في جميع أنحاء البلاد، فإن معظمها يستهدف صناعة واحدة أو مجرد جزء من التكنولوجيا – مثل التزييف العميق المستخدم في الانتخابات أو صنع صور إباحية.
أكبر مشاريع القوانين التي طرحها هذا الفريق من المشرعين توفر إطارًا واسعًا للرقابة، لا سيما حول واحدة من أكثر معضلات التكنولوجيا انحرافًا: التمييز في مجال الذكاء الاصطناعي. تشمل الأمثلة نظام الذكاء الاصطناعي الذي فشل في إجراء تقييم دقيق للمرضى السود، وآخر قام بتخفيض مستوى السيرة الذاتية للنساء أثناء قيامه بتصفية طلبات العمل.
ومع ذلك، يستخدم ما يصل إلى 83% من أصحاب العمل الخوارزميات للمساعدة في التوظيف، وفقًا لتقديرات لجنة تكافؤ فرص العمل.
وأوضح سوريش فينكاتاسوبرامانيان، أستاذ علوم الكمبيوتر والبيانات بجامعة براون والذي يقوم بتدريس فصل دراسي حول تخفيف التحيز في تصميم هذه الخوارزميات، أنه إذا لم يتم فعل أي شيء، فسيكون هناك دائمًا تحيز في أنظمة الذكاء الاصطناعي هذه.
وقال: “عليك أن تفعل شيئًا واضحًا حتى لا تكون متحيزًا في المقام الأول”.
هذه المقترحات، خاصة في كولورادو وكونيتيكت، معقدة، لكن التوجه الأساسي هو أنه سيُطلب من الشركات إجراء “تقييمات تأثير” لأنظمة الذكاء الاصطناعي التي تلعب دورًا كبيرًا في اتخاذ القرارات لتلك الموجودة في الولايات المتحدة. وستتضمن هذه التقارير أوصافًا لـ كيفية مساهمة الذكاء الاصطناعي في اتخاذ القرار، والبيانات التي تم جمعها وتحليل مخاطر التمييز، إلى جانب شرح الضمانات التي تقدمها الشركة.
إن المطالبة بقدر أكبر من الوصول إلى المعلومات المتعلقة بأنظمة الذكاء الاصطناعي تعني المزيد من المساءلة والسلامة للجمهور. لكن الشركات تشعر بالقلق من أن ذلك يزيد أيضًا من مخاطر الدعاوى القضائية والكشف عن الأسرار التجارية.
وقال ديفيد إدمونسون، من TechNet، وهي شبكة من الحزبين الجمهوري والديمقراطي من الرؤساء التنفيذيين للتكنولوجيا وكبار المديرين التنفيذيين الذين يمارسون الضغط بشأن مشاريع قوانين الذكاء الاصطناعي، في بيان له إن المنظمة تعمل مع المشرعين “لضمان أن أي تشريع يتناول مخاطر الذكاء الاصطناعي مع السماح للابتكار بالازدهار”.
وبموجب مشاريع القوانين في كولورادو وكونيتيكت، لن تضطر الشركات التي تستخدم الذكاء الاصطناعي إلى تقديم تقييمات التأثير إلى الحكومة بشكل روتيني. وبدلاً من ذلك، سيُطلب منهم الكشف للمدعي العام إذا وجدوا تمييزًا، ولن تقوم حكومة أو منظمة مستقلة باختبار أنظمة الذكاء الاصطناعي هذه بحثًا عن التحيز.
تشعر النقابات العمالية والأكاديميون بالقلق من أن الاعتماد المفرط على التقارير الذاتية للشركات يعرض للخطر قدرة الجمهور أو الحكومة على اكتشاف التمييز في مجال الذكاء الاصطناعي قبل أن يحدث أي ضرر.
وقال كجيرستن فورسيث، الذي يمثل اتحاد النقابات العمالية في كولورادو، وهو اتحاد للنقابات العمالية يعارض مشروع قانون كولورادو: “الأمر صعب بالفعل عندما يكون لديك هذه الشركات الضخمة التي تبلغ قيمتها مليارات الدولارات”. “في الأساس، أنت تمنحهم تمهيدًا إضافيًا للضغط على العامل أو المستهلك.”
تعارض غرفة التجارة في كاليفورنيا مشروع القانون الذي قدمته تلك الولاية، خوفًا من إمكانية نشر تقييمات التأثير علنًا في الدعاوى القضائية.
عنصر آخر مثير للجدل في مشاريع القوانين هو من يمكنه رفع دعوى قضائية بموجب التشريع، والتي تقتصر مشاريع القوانين عمومًا على المدعين العامين بالولاية وغيرهم من المحامين العامين – وليس المواطنين.
بعد إلغاء بند في مشروع قانون ولاية كاليفورنيا يسمح للمواطنين برفع الدعاوى القضائية، أيدت شركة Workday، وهي شركة برمجيات للتمويل والموارد البشرية، هذا الاقتراح. ويجادل موقع Workday بأن الدعاوى المدنية التي يرفعها المواطنون من شأنها أن تترك القرارات للقضاة، وكثير منهم ليسوا خبراء في التكنولوجيا، ويمكن أن يؤدي إلى نهج غير متسق تجاه التنظيم.
سوريل فريدلر، الأستاذة التي تركز على تحيز الذكاء الاصطناعي في كلية هافرفورد، تعارض ذلك.
قال فريدلر: “هذه هي الطريقة التي يؤكد بها المجتمع الأمريكي حقوقنا بشكل عام، من خلال رفع الدعاوى القضائية”.
قال السيناتور الديمقراطي عن ولاية كونيتيكت، جيمس ماروني، إن هناك معارضة في المقالات التي تزعم أنه والنائب جيوفاني كابريجليون، الجمهوري عن ولاية تكساس، “يروجان لمشاريع القوانين المكتوبة من قبل الصناعة” على الرغم من كل الأموال التي تنفقها الصناعة للضغط ضد التشريع .
وأشار ماروني إلى أن إحدى المجموعات الصناعية، وهي جمعية تكنولوجيا المستهلك، قامت بنشر إعلانات وأنشأت موقعًا على شبكة الإنترنت، وحثت المشرعين على إلغاء هذا التشريع.
“أعتقد أننا نسير على الطريق الصحيح. لقد عملنا مع أشخاص من الصناعة، ومن الأوساط الأكاديمية، ومن المجتمع المدني.
وأضاف: “الجميع يريد أن يشعر بالأمان، ونحن نعمل على إنشاء لوائح تسمح بالذكاء الاصطناعي الآمن والموثوق”.
_____
ساهم مراسلو وكالة أسوشيتد برس تران نجوين من ساكرامنتو، كاليفورنيا، وساهمت بيكي بوهرر من جونو، ألاسكا، وساهمت سوزان هاي من هارتفورد، كونيتيكت.
___
بداين هو عضو في هيئة وكالة أسوشيتد برس/تقرير لمبادرة أخبار ستيت هاوس الأمريكية. تقرير لأمريكا هو برنامج خدمة وطنية غير ربحي يضع الصحفيين في غرف الأخبار المحلية للإبلاغ عن القضايا السرية.