ساكرامنتو ، كاليفورنيا (AP) – وقع حاكم ولاية كاليفورنيا جافين نيوسوم يوم الاثنين تشريعًا لتنظيم روبوتات الدردشة ذات الذكاء الاصطناعي وحماية الأطفال والمراهقين من المخاطر المحتملة للتكنولوجيا.
يتطلب القانون من المنصات تذكير المستخدمين بأنهم يتفاعلون مع روبوت الدردشة وليس مع إنسان. سيظهر الإشعار كل ثلاث ساعات للمستخدمين القاصرين. وسيتعين على الشركات أيضًا الحفاظ على بروتوكول لمنع محتوى إيذاء النفس وإحالة المستخدمين إلى مقدمي خدمات الأزمات إذا أعربوا عن أفكار انتحارية.
وقالت نيوسوم، التي لديها أربعة أطفال تحت سن 18 عامًا، إن كاليفورنيا تتحمل مسؤولية حماية الأطفال والمراهقين التحول بشكل متزايد إلى روبوتات الدردشة المدعمة بالذكاء الاصطناعي في كل شيء من المساعدة في الواجبات المنزلية إلى الدعم العاطفي والمشورة الشخصية.
وقال الديموقراطي: “يمكن للتكنولوجيا الناشئة مثل برامج الدردشة الآلية ووسائل التواصل الاجتماعي أن تلهم، وتعلم، وتتواصل – ولكن بدون حواجز حماية حقيقية، يمكن للتكنولوجيا أيضًا استغلال أطفالنا وتضليلهم وتعريضهم للخطر”. “لقد رأينا بعض الأمثلة المروعة والمأساوية حقًا للشباب الذين تضرروا من التكنولوجيا غير المنظمة، ولن نقف مكتوفي الأيدي بينما تستمر الشركات دون الحدود والمساءلة اللازمة.”
تعد كاليفورنيا من بين العديد من الولايات التي حاولت هذا العام معالجة المخاوف المحيطة ببرامج الدردشة التي يستخدمها الأطفال من أجل الرفقة. تفجرت المخاوف المتعلقة بالسلامة حول هذه التكنولوجيا في أعقاب التقارير والدعاوى القضائية التي تفيد بأن برامج الدردشة الآلية التي أنشأتها Meta وOpenAI وغيرهما تتعامل مع المستخدمين الشباب في محادثات جنسية للغاية وفي بعض الحالات، دربتهم على الانتحار.
كان هذا التشريع من بين عدد كبير من مشاريع قوانين الذكاء الاصطناعي التي قدمها المشرعون في كاليفورنيا هذا العام لكبح جماح الصناعة المحلية التي تتطور بسرعة مع القليل من الرقابة. رداً على ذلك، أنفقت شركات التكنولوجيا وتحالفاتها ما لا يقل عن 2.5 مليون دولار في الأشهر الستة الأولى من الجلسة للضغط ضد هذه الإجراءات، وفقًا لمجموعة المناصرة Tech Oversight California. كما أعلنت شركات وقادة التكنولوجيا في الأشهر الأخيرة عن إطلاق لجان عمل سياسية فائقة مؤيدة للذكاء الاصطناعي لمحاربة الرقابة الحكومية والفدرالية.
صرح المدعي العام لولاية كاليفورنيا، روب بونتا، في سبتمبر الماضي لـ OpenAI أن لديه “مخاوف جدية” بشأن برنامج الدردشة الآلي الرائد، OpenAI، للأطفال والمراهقين. كما أطلقت لجنة التجارة الفيدرالية أيضًا تحقيقًا الشهر الماضي في العديد من شركات الذكاء الاصطناعي حول المخاطر المحتملة على الأطفال عندما يستخدمون روبوتات الدردشة كمرافقين.
تشير الأبحاث التي أجرتها مجموعة مراقبة إلى أن روبوتات الدردشة أثبتت قدرتها على العطاء نصائح خطيرة للأطفال حول موضوعات مثل المخدرات والكحول واضطرابات الأكل. رفعت والدة صبي مراهق في فلوريدا توفي منتحرًا بعد أن طور ما وصفته بعلاقة مسيئة عاطفيًا وجنسيًا مع برنامج الدردشة الآلي، دعوى قضائية بالقتل الخطأ ضد Character.AI. وقد رفع والدا آدم رين البالغ من العمر 16 عامًا مؤخرًا دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان، زاعمين أن ChatGPT درب الصبي من كاليفورنيا على التخطيط لحياته في وقت سابق من هذا العام.
تم الإعلان عن OpenAI و Meta الشهر الماضي تغييرات في كيفية استجابة برامج الدردشة الخاصة بهم للمراهقين طرح أسئلة حول الانتحار أو ظهور علامات الاضطراب العقلي والعاطفي. قال OpenAI إنه كذلك طرح ضوابط جديدة تمكين أولياء الأمور من ربط حساباتهم بحساب أبنائهم المراهقين.
وقالت Meta إنها تمنع الآن برامج الدردشة الخاصة بها من التحدث مع المراهقين حول إيذاء النفس والانتحار والأكل المضطرب والمحادثات الرومانسية غير المناسبة، وبدلاً من ذلك توجههم إلى موارد الخبراء. تقدم Meta بالفعل أدوات الرقابة الأبوية على حسابات المراهقين.
ملاحظة المحرر: تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى المساعدة، فإن شريان الحياة الوطني للانتحار والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو إرسال رسالة نصية إلى الرقم 988.