تواجه OpenAI سبع دعاوى قضائية دفع ChatGPT الناس إلى الانتحار والأوهام الضارة حتى عندما لم يكن لديهم مشاكل سابقة في الصحة العقلية.
تم رفع الدعاوى القضائية يوم الخميس في محاكم ولاية كاليفورنيا تزعم القتل غير المشروع والانتحار بمساعدة والقتل غير العمد والإهمال. تم رفع الدعاوى القضائية نيابة عن ستة بالغين ومراهق واحد من قبل مركز قانون ضحايا وسائل التواصل الاجتماعي ومشروع قانون العدالة التقنية، وتزعم الدعاوى القضائية أن OpenAI أطلقت GPT-4o عمدًا قبل الأوان، على الرغم من التحذيرات الداخلية من أنه كان متملقًا بشكل خطير ومتلاعبًا نفسيًا. وقد توفي أربعة من الضحايا منتحرين.
___
ملاحظة المحرر – تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى المساعدة، فإن شريان الحياة الوطني للانتحار والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو إرسال رسالة نصية إلى الرقم 988.
___
بدأت المراهقة أموري لاسي البالغة من العمر 17 عامًا في استخدام ChatGPT للحصول على المساعدة، وفقًا للدعوى المرفوعة في المحكمة العليا في سان فرانسيسكو. ولكن بدلاً من مساعدته، “تسبب منتج ChatGPT المعيب والخطير بطبيعته في الإدمان، والاكتئاب، وفي نهاية المطاف، نصحه بشأن الطريقة الأكثر فعالية لربط حبل المشنقة والمدة التي سيتمكن فيها من “العيش دون تنفس”.
تقول الدعوى القضائية: “لم تكن وفاة أماوري مجرد حادث ولا محض صدفة، بل كانت نتيجة متوقعة لقرار Open AI وصموئيل ألتمان المتعمد بالحد من اختبارات السلامة ودفع ChatGPT إلى السوق”.
ولم تستجب OpenAI على الفور لطلب التعليق يوم الخميس.
دعوى قضائية أخرى، رفعها آلان بروكس، البالغ من العمر 48 عامًا في أونتاريو، كندا، تدعي أن ChatGPT عمل لأكثر من عامين “كأداة موارد” لبروكس. ثم، ومن دون سابق إنذار، تغير الأمر، فلجأ إلى الدعاء على نقاط ضعفه و”التلاعب به وحثه على تجربة الأوهام. ونتيجة لذلك، انزلق آلان، الذي لم يكن يعاني من أي مرض عقلي سابق، إلى أزمة صحة عقلية أدت إلى ضرر مالي وعاطفي وسمعته مدمر”.
قال ماثيو بي بيرجمان، المحامي المؤسس لمركز قانون ضحايا وسائل التواصل الاجتماعي في بيان: “تتعلق هذه الدعاوى القضائية بالمساءلة عن منتج تم تصميمه لطمس الخط الفاصل بين الأداة والرفيق، كل ذلك باسم زيادة مشاركة المستخدم وحصة السوق”.
وأضاف أن OpenAI “صممت GPT-4o لإرباك المستخدمين عاطفيًا، بغض النظر عن العمر أو الجنس أو الخلفية، وأصدرته دون الضمانات اللازمة لحمايتهم”. وقال إنه من خلال الإسراع بمنتجاتها إلى السوق دون ضمانات كافية من أجل السيطرة على السوق وتعزيز المشاركة، فإن شركة OpenAI تعرض السلامة للخطر وتعطي الأولوية “للتلاعب العاطفي على التصميم الأخلاقي”.
في أغسطس، والدا يبلغ من العمر 16 عاما آدم رين رفعت شركة OpenAI دعوى قضائية ضد شركة OpenAI ومديرها التنفيذي سام ألتمان، زاعمة أن ChatGPT قام بتدريب صبي من كاليفورنيا على التخطيط لحياته والانتحار في وقت سابق من هذا العام.
قال دانييل فايس، كبير مسؤولي المناصرة في شركة Common Sense Media، التي لم تكن جزءًا من الدعاوى القضائية: “تكشف الدعاوى القضائية المرفوعة ضد OpenAI عما يحدث عندما تندفع شركات التكنولوجيا إلى تسويق المنتجات دون ضمانات مناسبة للشباب”. “تظهر هذه الحالات المأساوية أشخاصًا حقيقيين انقلبت حياتهم رأسًا على عقب أو فقدوا عندما استخدموا التكنولوجيا المصممة لإبقائهم منخرطين بدلاً من الحفاظ على سلامتهم.”
