أطلقت لجنة التجارة الفيدرالية تحقيقًا في العديد من شركات وسائل التواصل الاجتماعي وشركات الذكاء الاصطناعي حول الأضرار المحتملة للأطفال والمراهقين الذين يستخدمون مفاتيح الدردشة الذكرية كصياغة.
قالت FTC يوم الخميس إنها أرسلت رسائل إلى منصات Google Parent Alphabet و Facebook و Instagram Parent Meta و Snap و Technologies و ChatGpt Maker Openai و Xai.
قالت FTC إنها تريد أن تفهم الخطوات ، إن وجدت ، التي اتخذتها الشركات لتقييم سلامة chatbots الخاصة بها عند التصرف كرفاق ، للحد من استخدام المنتجات من خلال التأثيرات السلبية المحتملة على الأطفال والمراهقين ، وتوفير المستخدمين وأولياء أمور المخاطر المرتبطة بـ chatbots.
ملاحظة المحرر – تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى مساعدة ، فإن شريان الحياة الوطني للانتحار والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو الرسائل النصية 988.
تأتي هذه الخطوة كما عدد متزايد من الأطفال يستخدمون chatbots منظمة العفو الدولية لكل شيء-من الواجب المنزلي إلى المشورة الشخصية والدعم العاطفي وصنع القرار اليومي. هذا على الرغم من الأبحاث حول أضرار chatbots ، والتي ثبت أنها تعطيها نصيحة خطيرة للأطفال حول موضوعات مثل المخدرات والكحول واضطرابات الأكل. والدة صبي مراهق في فلوريدا قتل نفسه بعد تطوير ما وصفته بأنه علاقة مسيئة عاطفيا وجنسيا مع chatbot قد قدمت موتًا غير المشروع دعوى ضد الحرف. وقد رفع والدا آدم راين ، البالغ من العمر 16 عامًا ، دعوى قضائية ضد Openai ورئيسها التنفيذي سام ألمان ، زاعمين أن تشاتغبت قام بتدريب فتى كاليفورنيا على التخطيط وأخذ حياته في وقت سابق من هذا العام.
وقالت الشخصية. إنها تتطلع إلى “التعاون مع FTC حول هذا الاستفسار وتوفير نظرة ثاقبة على صناعة AI المستهلك والتكنولوجيا المتطورة بسرعة في الفضاء.”
وقالت الشركة: “لقد استثمرنا قدراً هائلاً من الموارد في الثقة والسلامة ، خاصة بالنسبة لبدء التشغيل. في العام الماضي ، طرحنا العديد من ميزات السلامة الموضوعية ، بما في ذلك تجربة جديدة تمامًا تحت 18 عامًا وميزة رؤى الوالدين”. “لدينا إخلاء مسئولية بارز في كل دردشة لتذكير المستخدمين بأن الشخصية ليست شخصًا حقيقيًا وأن كل شيء تقوله الشخصية يجب أن يعامل على أنه خيال.”
ورفض Meta التعليق على الاستفسار والأبجدية ، لم يرد Snap و Openai و X.AI على الفور على الرسائل للتعليق.
أعلن Openai و Meta في وقت سابق من هذا الشهر التغييرات في كيفية استجابة chatbots الخاصة بهم للمراهقين طرح أسئلة حول الانتحار أو إظهار علامات الضيق العقلي والعاطفي. قال Openai إنه كذلك طرح ضوابط جديدة تمكين الآباء من ربط حساباتهم بحساب المراهقين.
يمكن للآباء اختيار الميزات التي يجب تعطيلها و “تلقي الإخطارات عندما يكتشف النظام في سن المراهقة في لحظة من الضيق الحاد” ، وفقًا لمدونة الشركة التي تقول إن التغييرات ستدخل حيز التنفيذ هذا الخريف.
بغض النظر عن عمر المستخدم ، تقول الشركة إن chatbots سوف تحاول إعادة توجيه المحادثات الأكثر إثارة للقلق إلى نماذج الذكاء الاصطناعى الأكثر قدرة التي يمكن أن توفر استجابة أفضل.
قالت ميتا أيضًا إنها تمنع الآن الدردشة من التحدث مع المراهقين حول إيذاء الذات والانتحار والأكل المضطربة والمحادثات الرومانسية غير المناسبة ، وبدلاً من ذلك يوجههم إلى موارد الخبراء. يقدم Meta بالفعل عناصر تحكم الوالدين على حسابات المراهقين.