حذر المدعي العام في كاليفورنيا وديلاوير يوم الجمعة Openai من أن لديهم “مخاوف خطيرة” بشأن سلامة chatbot الرائدة ، ChatGPT ، وخاصة للأطفال والمراهقين.
أرسل مسؤولان الدولة ، اللذان يتمتعان بسلطات فريدة لتنظيم المنظمات غير الربحية مثل Openai ، الرسالة إلى الشركة بعد اجتماع مع فريقها القانوني في وقت سابق من هذا الأسبوع في ويلمنجتون ، ديلاوير.
أمضت كاليفورنيا AG Rob Bonta و Delaware Ag Kathleen Jennings شهورًا في مراجعة خطط Openai لإعادة هيكلة أعمالها ، مع مراعاة “ضمان الإشراف الصارم والقوي على مهمة السلامة في Openai”.
لكنهم قالوا إنهم يشعرون بالقلق من “التقارير المثيرة للقلق عن التفاعلات الخطرة بين” الدردشة ومستخدميها ، بما في ذلك “الوفاة المفجعة عن طريق انتحار شاب في كاليفورنيا بعد أن كان لديه تفاعلات طويلة مع chatbot Openai ، بالإضافة إلى انتحار القتل المقلق بالمثل في ولاية كونيكتيكت. أيا كان ما كانت في مكان في مكان لا يوجد عمل.”
والدا صبي كاليفورنيا البالغ من العمر 16 عامًا ، توفي في أبريل ، دعوى قضائية ضد Openai ورئيسها التنفيذي ، سام التمان ، الشهر الماضي.
لم يرد Openai على الفور على طلب للتعليق يوم الجمعة.
تأسست Openai ، التي تم تأسيسها على أنها منظمة غير ربحية مع مهمة تركز على السلامة لبناء ذكاء صناعي أفضل من الإنسان ، مؤخراً لنقل المزيد من السيطرة على ذراعها الربحية من غير الربحية قبل إسقاط هذه الخطط في مايو بعد مناقشات مع مكاتب بونتا وجينينغز وغيرها من المجموعات غير الربحية.
يشرف المسؤولان المنتخبين ، كلاهما الديمقراطيين ، على أي تغييرات من هذا القبيل لأن Openai تم دمجه في ولاية ديلاوير ويعمل خارج كاليفورنيا ، حيث كان له مقرها في سان فرانسيسكو.
بعد إسقاط خططها الأولية ، تسعى Openai إلى موافقة المسؤولين على “إعادة الرسملة” ، حيث سيتم تحويل ذراع غير ربحية للربح إلى شركة ذات فائدة عامة يجب أن تنظر في مصالح كل من المساهمين والمهمة.
كتب بونتا وجينينغز يوم الجمعة عن “وجهة نظرهما المشتركة” أن Openai والصناعة تحتاج إلى تدابير أمان أفضل.
“الوفيات الأخيرة غير مقبولة” ، كتبوا. “لقد هزوا بحق ثقة الجمهور الأمريكي في Openai و هذه الصناعة. يجب على Openai – وصناعة الذكاء الاصطناعى – أن يضمنوا بشكل استباقي وشفاف النشر الآمن للذكاءات.
تأتي الرسالة إلى Openai من مسؤولي كاليفورنيا وديلاوير بعد مجموعة من 44 من المحامين العامين من المحامين المحامين وحذرت الشركة الأخرى الأسبوع الماضي من “المخاوف الجريئة” بشأن سلامة الأطفال الذين يتفاعلون مع منظمة العفو الدولية التي يمكنها الاستجابة مع “محادثات موحية جنسيًا وسلوكًا تلاعبًا عاطفيًا”.
استدعى المحامون العامون على وجه التحديد Meta لصالح chatbots التي تشارك في مشاركتها في “لعب الأدوار الرومانسية” مع الأطفال ، قائلين إنهم يشعرون بالقلق من أن هذه الدردشة “تشارك في سلوك يبدو أنه محظور بموجب قوانيننا الجنائية.”
ورفضت Meta ، الشركة الأم لـ Facebook و Instagram و WhatsApp ، التعليق على الرسالة ولكن تم طرحه مؤخرًا الضوابط الجديدة التي تهدف إلى منع chatbots من التحدث مع المراهقين حول إيذاء الذات والانتحار والانتحار في الأكل والمحادثات الرومانسية غير المناسبة ، وبدلاً من ذلك يوجههم إلى موارد الخبراء.
وقال المدعي العام إن الشركات ستتحمل مسؤولية إيذاء الأطفال ، مشيرة إلى أنه في الماضي ، لم يتحرك المنظمون بسرعة للرد على الأضرار التي تسببها تقنيات جديدة.
“إذا كنت تضر الأطفال عن علم ، فسوف تجيب على ذلك” ، تنتهي رسالة 25 أغسطس.
——
لدى وكالة أسوشيتيد برس و Openai اتفاقية ترخيص وتكنولوجيا يتيح ذلك الوصول إلى Openai إلى جزء من أرشيفات النص AP.