يخطط آباء المراهقين الذين قتلوا أنفسهم بعد التفاعلات مع chatbots الذكاء الاصطناعي للإدلاء بشهادته إلى الكونغرس يوم الثلاثاء حول مخاطر التكنولوجيا.
ماثيو رين ، والد آدم ريني من كاليفورنيا ، وميجان جارسيا ، والدة ، من سيويل سيتزر الثالث ، البالغ من العمر 14 عامًا ، من المقرر أن يتحدثوا إلى جلسة استماع في مجلس الشيوخ عن الأضرار التي يطرحها منظمة العفو الدولية.
رفعت عائلة رين دعوى على Openai ورئيسها التنفيذي سام ألمان الشهر الماضي يزعمون أن تشاتغبت قام بتدريب الصبي على التخطيط لأخذ حياته الخاصة في أبريل. غارسيا دعوى قضائية أخرى Company AI ، Technologies ، من أجل الموت غير المشروع العام الماضي ، بحجة أنه قبل انتحاره ، أصبح Sewell معزولًا بشكل متزايد عن حياته الحقيقية وهو يشارك في محادثات جنسية للغاية مع Chatbot.
___
ملاحظة المحرر – تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى مساعدة ، فإن شريان الحياة الوطني للانتحار والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو الرسائل النصية 988.
___
قبل ساعات من جلسة استماع مجلس الشيوخ ، تعهد Openai بطرح ضمانات جديدة للمراهقين ، بما في ذلك الجهود المبذولة لاكتشاف ما إذا كان مستخدمو ChatGPT أقل من 18 عامًا وتمكين الآباء من تعيين “ساعات التعتيم” عندما لا يستطيع المراهق استخدام ChatGPT. انتقدت مجموعات الدعوة للأطفال هذا الإعلان على أنه ليس كافيًا.
وقال جوش جولن ، المدير التنفيذي لشركة Fairplay ، وهي مجموعة تدافع عن سلامة الأطفال عبر الإنترنت: “هذا تكتيك شائع إلى حد ما – إنه تكتيك يستخدمه Meta طوال الوقت – وهو إصدار إعلان كبير ورائع عشية جلسة استماع وعدت بأن تكون ضارة للشركة”.
وقال جولين: “ما يجب عليهم فعله هو عدم استهداف chatgpt للقاصرين حتى يتمكنوا من إثبات أنه آمن بالنسبة لهم”. “يجب ألا نسمح للشركات ، لمجرد أن لديهم موارد هائلة ، بإجراء تجارب غير خاضعة للرقابة على الأطفال عندما تكون الآثار المترتبة على تطورها واسعة للغاية.”
قالت لجنة التجارة الفيدرالية الأسبوع الماضي إنها كانت لديها أطلقت تحقيق في العديد من الشركات حول الأضرار المحتملة للأطفال والمراهقين الذين يستخدمون chatbots من الذكاء الاصطناعي كرفاق.
أرسلت الوكالة رسائل إلى الشخصية ، Meta و Openai ، وكذلك إلى Google و Snap و Xai.
