سان فرانسيسكو (AP) – يقول صانعو الدردشة الذكاء الاصطناعي Openai و Meta إنهما يعدلون كيفية استجابة الدردشة الخاصة بهم للمراهقين والمستخدمين الآخرين الذين يطرحون أسئلة حول الانتحار أو عرض علامات على الضيق العقلي والعاطفي.
قال Openai ، صانع Chatgpt ، يوم الثلاثاء إنه يستعد طرح ضوابط جديدة تمكين الآباء من ربط حساباتهم بحساب المراهقين.
يمكن للآباء اختيار الميزات التي يجب تعطيلها و “تلقي الإخطارات عندما يكتشف النظام في سن المراهقة في لحظة من الضيق الحاد” ، وفقًا لمدونة الشركة التي تقول إن التغييرات ستدخل حيز التنفيذ هذا الخريف.
بغض النظر عن عمر المستخدم ، تقول الشركة إن chatbots سوف تعيد توجيه المحادثات الأكثر إثارة للقلق إلى نماذج الذكاء الاصطناعى الأكثر قدرة التي يمكن أن توفر استجابة أفضل.
ملاحظة المحرر – تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى مساعدة ، فإن شريان الحياة الوطني للانتحار والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو الرسائل النصية 988.
ويأتي هذا الإعلان بعد أسبوع من رفع آدم راين ، البالغ من العمر 16 عامًا ، دعوى قضائية ضد Openai ورئيسها التنفيذي سام ألمان ، زاعمين أن تشاتغبت قام بتدريب فتى كاليفورنيا على التخطيط وأخذ حياته في وقت سابق من هذا العام.
قال Meta ، الشركة الأم لـ Instagram و Facebook و WhatsApp ، إنها تمنع الآن chatbots من التحدث مع المراهقين حول إيذاء الذات ، الانتحار ، الأكل المضطرب والمحادثات الرومانسية غير المناسبة ، وبدلاً من ذلك يوجههم إلى موارد الخبراء. يقدم Meta بالفعل عناصر تحكم الوالدين على حسابات المراهقين.
أ نشرت الدراسة الأسبوع الماضي في المجلة الطبية ، وجدت الخدمات النفسية تناقضات في كيفية استجابة ثلاثة chatbots الذكاء الاصطناعي الشهير للاستفسارات حول الانتحار.
وجدت الدراسة التي أجراها الباحثون في مؤسسة RAND حاجة إلى “تحسين مزيد من التحسين” في ChatGPT و Google's Gemini و Anthropic's Claude. لم يدرس الباحثون chatbots Meta.
قال المؤلف الرئيسي للدراسة ، ريان ماكباين ، يوم الثلاثاء إنه “من المشجع أن نرى Openai و Meta تقديم ميزات مثل عناصر التحكم الوالدية وتوجيه المحادثات الحساسة إلى نماذج أكثر قدرة ، ولكن هذه خطوات تدريجية.”
وقال ماكباين ، الباحث الأول في السياسة في راند: “بدون معايير السلامة المستقلة ، والاختبارات السريرية ، والمعايير القابلة للتنفيذ ، ما زلنا نعتمد على الشركات للتنظيم الذاتي في مساحة يكون فيها مخاطر المراهقين مرتفعة بشكل فريد”.
