ساكرامنتو ، كاليفورنيا (ا ف ب) – استخدم حاكم ولاية كاليفورنيا جافين نيوسوم حق النقض ضد مشروع قانون تاريخي يهدف إلى إنشاء أول دولة في البلاد تدابير السلامة لنماذج الذكاء الاصطناعي الكبيرة يوم الأحد.
ويمثل هذا القرار ضربة قوية للجهود التي تحاول كبح جماح الصناعة المحلية التي تتطور بسرعة مع القليل من الرقابة. وقال المؤيدون إن مشروع القانون كان سيضع بعض اللوائح الأولى بشأن نماذج الذكاء الاصطناعي واسعة النطاق في البلاد ويمهد الطريق للوائح سلامة الذكاء الاصطناعي في جميع أنحاء البلاد.
في وقت سابق من هذا الشهر، أخبر الحاكم الديمقراطي جمهورًا في Dreamforce، وهو مؤتمر سنوي تستضيفه شركة البرمجيات العملاقة Salesforce، أن كاليفورنيا يجب أن تكون رائدة في تنظيم الذكاء الاصطناعي في مواجهة التقاعس الفيدرالي ولكن ذلك الاقتراح “يمكن أن يكون لها تأثير مروع على الصناعة.”
وقال نيوسوم إن الاقتراح، الذي أثار معارضة شديدة من الشركات الناشئة وعمالقة التكنولوجيا والعديد من أعضاء مجلس النواب الديمقراطيين، كان من الممكن أن يضر الصناعة المحلية من خلال وضع متطلبات صارمة.
وقال نيوسوم في بيان: “على الرغم من حسن النية، إلا أن SB 1047 لا يأخذ في الاعتبار ما إذا كان نظام الذكاء الاصطناعي قد تم نشره في بيئات عالية المخاطر، أو ينطوي على اتخاذ قرارات حاسمة أو استخدام بيانات حساسة”. “بدلاً من ذلك، يطبق مشروع القانون معايير صارمة حتى على الوظائف الأساسية – طالما أن هناك نظامًا كبيرًا ينشرها. لا أعتقد أن هذا هو أفضل نهج لحماية الجمهور من التهديدات الحقيقية التي تشكلها التكنولوجيا.
وبدلاً من ذلك، أعلنت نيوسوم يوم الأحد أن الولاية ستتعاون مع العديد من خبراء الصناعة، بما في ذلك رواد الذكاء الاصطناعي فاي فاي ليلتطوير حواجز حماية حول نماذج الذكاء الاصطناعي القوية. عارض لي اقتراح سلامة الذكاء الاصطناعي.
كان هذا الإجراء، الذي يهدف إلى الحد من المخاطر المحتملة التي يخلقها الذكاء الاصطناعي، سيطلب من الشركات اختبار نماذجها والكشف علنًا عن بروتوكولات السلامة الخاصة بها لمنع التلاعب بالنماذج، على سبيل المثال، للقضاء على الشبكة الكهربائية في الولاية أو المساعدة في صنع أسلحة كيميائية. ويقول الخبراء إن هذه السيناريوهات قد تكون ممكنة في المستقبل مع استمرار الصناعة في التقدم السريع. كما كان من شأنه أن يوفر الحماية للمبلغين عن المخالفات للعمال.
ووصف مؤلف مشروع القانون، السيناتور الديمقراطي سكوت وينر، حق النقض بأنه “انتكاسة لكل من يؤمن بالرقابة على الشركات الضخمة التي تتخذ قرارات حاسمة تؤثر على سلامة ورفاهية الجمهور ومستقبل الكوكب”.
“تدرك الشركات التي تعمل على تطوير أنظمة الذكاء الاصطناعي المتقدمة أن المخاطر التي تمثلها هذه النماذج للجمهور حقيقية وتتزايد بسرعة. وقال وينر في بيان بعد ظهر الأحد: “في حين أن مختبرات الذكاء الاصطناعي الكبيرة قد قدمت التزامات مثيرة للإعجاب لرصد هذه المخاطر والتخفيف منها، فإن الحقيقة هي أن الالتزامات الطوعية من الصناعة ليست قابلة للتنفيذ ونادرا ما تعمل بشكل جيد للجمهور”.
وقال وينر إن النقاش حول مشروع القانون قد أدى إلى تقدم كبير في مسألة سلامة الذكاء الاصطناعي، وأنه سيواصل الضغط على هذه النقطة.
التشريع من بين مجموعة من الفواتير أقره المجلس التشريعي هذا العام لتنظيم الذكاء الاصطناعي، محاربة التزييف العميق و حماية العمال. وقال مشرعون بالولاية إن كاليفورنيا يجب أن تتخذ إجراءات هذا العام، مستشهدين بالدروس الصعبة التي تعلموها من الفشل في كبح جماح شركات التواصل الاجتماعي عندما كان من الممكن أن تتاح لهم الفرصة.
قال مؤيدو هذا الإجراء، بما في ذلك Elon Musk وAnthropic، إن الاقتراح كان من الممكن أن يضخ بعض مستويات الشفافية والمساءلة حول نماذج الذكاء الاصطناعي واسعة النطاق، حيث يقول المطورون والخبراء إنهم لا يزالون ليس لديهم فهم كامل لكيفية تصرف نماذج الذكاء الاصطناعي لماذا.
استهدف مشروع القانون الأنظمة التي تتطلب أكثر من 100 مليون دولار لبناء. ولم تصل أي نماذج حالية للذكاء الاصطناعي إلى هذا الحد، لكن بعض الخبراء قالوا إن هذا قد يتغير خلال العام المقبل.
قال دانييل كوكوتاجلو، الباحث السابق في شركة OpenAI الذي استقال في أبريل/نيسان بسبب ما اعتبره تجاهل الشركة لمخاطر الذكاء الاصطناعي: “يرجع هذا إلى التوسع الهائل في الاستثمار داخل الصناعة”. “إنه قدر هائل من السلطة للسيطرة على أي شركة خاصة دون مساءلة، كما أنه أمر محفوف بالمخاطر بشكل لا يصدق.”
والولايات المتحدة متأخرة بالفعل أوروبا في تنظيم الذكاء الاصطناعي للحد من المخاطر. لم يكن اقتراح كاليفورنيا شاملاً مثل اللوائح التنظيمية في أوروبا، لكنه كان يمكن أن يكون خطوة أولى جيدة لوضع حواجز حول التكنولوجيا سريعة النمو التي تثير المخاوف بشأن فقدان الوظائف، والمعلومات المضللة، وانتهاكات الخصوصية والانتهاكات. التحيز الآليوقال أنصار.
عدد من شركات الذكاء الاصطناعي الرائدة العام الماضي وافق طوعا لمتابعة الضمانات التي وضعها البيت الأبيض، مثل اختبار ومشاركة المعلومات حول نماذجهم. وقال مؤيدو الإجراء إن مشروع قانون كاليفورنيا كان سيلزم مطوري الذكاء الاصطناعي باتباع متطلبات مماثلة لتلك الالتزامات.
لكن المنتقدين، بما في ذلك رئيسة مجلس النواب الأمريكي السابقة نانسي بيلوسي، زعموا أن مشروع القانون من شأنه أن “يقتل تكنولوجيا كاليفورنيا” ويخنق الابتكار. وقالوا إن ذلك كان سيثني مطوري الذكاء الاصطناعي عن الاستثمار في النماذج الكبيرة أو مشاركة البرامج مفتوحة المصدر.
يمثل قرار نيوسوم باستخدام حق النقض ضد مشروع القانون فوزًا آخر في كاليفورنيا لشركات التكنولوجيا الكبرى ومطوري الذكاء الاصطناعي، الذين قضى الكثير منهم العام الماضي في الضغط إلى جانب غرفة التجارة في كاليفورنيا للتأثير على الحاكم والمشرعين من تطوير لوائح الذكاء الاصطناعي.
وقد توفي مقترحان آخران شاملان للذكاء الاصطناعي، واللذان واجها أيضًا معارضة متزايدة من صناعة التكنولوجيا وغيرها، قبل الموعد النهائي التشريعي الشهر الماضي. كانت الفواتير ستتطلب من مطوري الذكاء الاصطناعي تصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي و حظر التمييز من خلال أدوات الذكاء الاصطناعي تستخدم لاتخاذ قرارات التوظيف.
وقال الحاكم في وقت سابق من هذا الصيف إنه يريد حماية مكانة كاليفورنيا كرائد عالمي في مجال الذكاء الاصطناعي، مشيرًا إلى أن 32 من أفضل 50 شركة في مجال الذكاء الاصطناعي في العالم تقع في الولاية.
لقد قام بترويج ولاية كاليفورنيا باعتبارها من أوائل المتبنين للولاية يمكن قريبًا نشر أدوات الذكاء الاصطناعي التوليدية لمعالجة ازدحام الطرق السريعة، وتوفير التوجيه الضريبي وتبسيط برامج التشرد. كما أعلنت الدولة الشهر الماضي شراكة طوعية مع شركة Nvidia العملاقة للذكاء الاصطناعي للمساعدة في تدريب الطلاب وأعضاء هيئة التدريس والمطورين وعلماء البيانات. وتدرس كاليفورنيا أيضًا قواعد جديدة ضد التمييز في مجال الذكاء الاصطناعي في ممارسات التوظيف.
في وقت سابق من هذا الشهر، وقع نيوسوم على بعض من أصعب القوانين في البلاد لاتخاذ إجراءات صارمة ضدها التزييف العميق للانتخابات والتدابير اللازمة لذلك حماية العاملين في هوليوود من الاستخدام غير المصرح به للذكاء الاصطناعي.
وقالت تاتيانا رايس، نائبة مدير منتدى مستقبل الخصوصية، وهي منظمة غير ربحية تعمل مع المشرعين في مقترحات التكنولوجيا والخصوصية، إنه حتى مع نقض نيوسوم، فإن اقتراح السلامة في كاليفورنيا يلهم المشرعين في ولايات أخرى لاتخاذ إجراءات مماثلة.
وقالت رايس: “من المحتمل أن يقوموا إما بنسخه أو القيام بشيء مماثل في الجلسة التشريعية المقبلة”. “لذلك لن يختفي.”
—-
وكالة أسوشيتد برس وOpenAI اتفاقية الترخيص والتكنولوجيا الذي يسمح لـ OpenAI بالوصول إلى جزء من أرشيفات النصوص الخاصة بـ AP.