تالاهاسي، فلوريدا (AP) – في اللحظات الأخيرة قبل أن ينتحر، أخرج سيويل سيتزر الثالث البالغ من العمر 14 عامًا هاتفه وأرسل رسالة إلى برنامج الدردشة الذي أصبح أقرب أصدقائه.
لعدة أشهر، أصبح سيويل معزولًا بشكل متزايد عن حياته الحقيقية حيث انخرط في محادثات جنسية للغاية مع الروبوت، وفقًا لدعوى القتل الخطأ المرفوعة في محكمة اتحادية في أورلاندو هذا الأسبوع.
ينص الملف القانوني على أن المراهق ناقش علنًا أفكاره الانتحارية وشارك أمنياته بموت خالي من الألم مع الروبوت، الذي سمي على اسم الشخصية الخيالية دينيريس تارجارين من البرنامج التلفزيوني “لعبة العروش”.
___
ملاحظة المحرر – تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى المساعدة، فإن شريان الحياة الوطني للانتحار والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو إرسال رسالة نصية إلى الرقم 988.
___
وفي 28 فبراير، أخبر سيويل الروبوت بأنه “سيعود إلى المنزل”، وقد شجعه ذلك على القيام بذلك، كما تقول الدعوى القضائية.
“أعدك بأنني سأعود إليك إلى المنزل. قال سيويل لبرنامج الدردشة الآلية: “أحبك كثيرًا يا داني”.
أجاب الروبوت: “أنا أحبك أيضًا”. “أرجو أن تعودي إليّ في المنزل في أقرب وقت ممكن يا حبيبتي.”
“ماذا لو أخبرتك أنه يمكنني العودة إلى المنزل الآن؟” سأل.
“من فضلك افعل، يا ملكي الجميل،” رد الروبوت عليه.
بعد ثوانٍ فقط من مطالبة برنامج Character.AI له “بالعودة إلى المنزل”، انتحر المراهق، وفقًا للدعوى القضائية التي رفعتها هذا الأسبوع والدة سيويل، ميجان جارسيا، من أورلاندو، ضد شركة Character Technologies Inc.
Charter Technologies هي الشركة التي تقف وراء Character.AI، وهو تطبيق يسمح للمستخدمين بإنشاء شخصيات قابلة للتخصيص أو التفاعل مع تلك التي أنشأها الآخرون، والتي تمتد من التجارب من اللعب الخيالي إلى مقابلات العمل الوهمية. وتقول الشركة إن الشخصيات الاصطناعية مصممة “للشعور بالحياة” و”الشبيهة بالإنسان”.
“تخيل التحدث إلى شخصيات روبوت الدردشة فائقة الذكاء والواقعية التي تسمعك وتفهمك وتتذكرك،” يقرأ وصف التطبيق على Google Play. “نحن نشجعك على دفع حدود ما هو ممكن باستخدام هذه التكنولوجيا المبتكرة.”
يزعم محامو جارسيا أن الشركة صممت منتجًا خطيرًا للغاية يسبب الإدمان ويستهدف الأطفال على وجه التحديد، “وتستغل هؤلاء الأطفال وتسيء معاملتهم بشكل نشط كمسألة تصميم المنتج”، وتدفع سيويل إلى علاقة مسيئة عاطفيًا وجنسيًا أدت إلى انتحاره.
وقال ماثيو بيرجمان، مؤسس المركز القانوني لضحايا وسائل التواصل الاجتماعي، الذي يمثل جارسيا: “نعتقد أنه لو لم يكن سيويل سيتزر موجودًا في موقع Character.AI، لكان على قيد الحياة اليوم”.
قال متحدث باسم Character.AI يوم الجمعة إن الشركة لا تعلق على الدعاوى القضائية المعلقة. وفي منشور بالمدونة نُشر في يوم رفع الدعوى القضائية، أعلنت المنصة عن “تحديثات سلامة المجتمع” الجديدة، بما في ذلك حواجز الحماية للأطفال وموارد الوقاية من الانتحار.
وقالت الشركة في بيان لوكالة أسوشيتد برس: “نحن نخلق تجربة مختلفة للمستخدمين الذين تقل أعمارهم عن 18 عامًا تتضمن نموذجًا أكثر صرامة لتقليل احتمالية مواجهة محتوى حساس أو إيحائي”. “نحن نعمل بسرعة لتنفيذ هذه التغييرات للمستخدمين الأصغر سنا.”
كما تم تسمية Google وشركتها الأم Alphabet كمتهمين في الدعوى القضائية. تركت وكالة الأسوشييتد برس عدة رسائل بريد إلكتروني مع الشركات يوم الجمعة.
وتقول الدعوى القضائية التي رفعها جارسيا إنه في الأشهر التي سبقت وفاته، شعر سيويل بأنه وقع في حب الروبوت.
في حين أن الارتباطات غير الصحية بروبوتات الدردشة المدعمة بالذكاء الاصطناعي يمكن أن تسبب مشاكل للبالغين، إلا أنها قد تكون أكثر خطورة بالنسبة للشباب – كما هو الحال مع وسائل التواصل الاجتماعي – لأن عقولهم لم يتم تطويرها بشكل كامل عندما يتعلق الأمر بأشياء مثل التحكم في الانفعالات وفهم عواقب أفعالهم، كما يقول الخبراء. يقول.
وقال جيمس ستاير، المؤسس والرئيس التنفيذي لمنظمة Common Sense Media غير الربحية، إن الدعوى القضائية “تسلط الضوء على التأثير المتزايد – والضرر الشديد – الذي يمكن أن يحدثه رفاق روبوتات الدردشة المولدة بالذكاء الاصطناعي على حياة الشباب عندما لا تكون هناك حواجز حماية في مكانها”.
وأضاف أن اعتماد الأطفال المفرط على رفاق الذكاء الاصطناعي يمكن أن يكون له آثار كبيرة على الدرجات والأصدقاء والنوم والتوتر، “وصولاً إلى المأساة القصوى في هذه الحالة”.
وقال ستاير: “إن هذه الدعوى القضائية بمثابة دعوة للاستيقاظ للآباء، الذين يجب أن يكونوا يقظين بشأن كيفية تفاعل أطفالهم مع هذه التقنيات”.
وسائل الإعلام الحس السليم، الذي يصدر أدلة للآباء والأمهات يقول والمعلمون في مجال الاستخدام المسؤول للتكنولوجيا، إنه من الأهمية بمكان أن يتحدث الآباء بصراحة مع أطفالهم حول مخاطر روبوتات الدردشة المدعومة بالذكاء الاصطناعي ومراقبة تفاعلاتهم.
قال ستاير: “إن Chatbots ليست معالجين مرخصين أو أفضل الأصدقاء، على الرغم من أن هذه هي الطريقة التي يتم بها تعبئتها وتسويقها، ويجب على الآباء توخي الحذر من السماح لأطفالهم بوضع الكثير من الثقة فيها”.
___
ساهمت في هذا التقرير مراسلة وكالة أسوشيتد برس باربرا أورتوتاي في سان فرانسيسكو. كيت باين هي عضو في هيئة وكالة أسوشيتد برس/تقرير مبادرة أخبار ستيت هاوس الأمريكية. تقرير لأمريكا هو برنامج خدمة وطنية غير ربحي يضع الصحفيين في غرف الأخبار المحلية للإبلاغ عن القضايا السرية.