- تسلط الدعاوى القضائية المتعددة الضوء على المخاطر المحتملة لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي بالنسبة للأطفال.
- أضافت Character.AI الاعتدال والضوابط الأبوية بعد رد الفعل العنيف.
- يقول بعض الباحثين إن سوق روبوتات الدردشة المدعمة بالذكاء الاصطناعي لم تعالج المخاطر التي يتعرض لها الأطفال.
منذ وفاة ابنها البالغ من العمر 14 عامًا، تكافح ميجان جارسيا من أجل المزيد من حواجز الحماية للذكاء الاصطناعي التوليدي.
رفعت جارسيا دعوى قضائية ضد شركة Character.AI في أكتوبر بعد أن انتحر ابنها سيويل سيتزر الثالث بعد الدردشة مع أحد روبوتات الدردشة الخاصة بالشركة الناشئة. يدعي جارسيا أنه تعرض للإغراء الجنسي والإساءة من قبل التكنولوجيا ويلقي باللوم على الشركة ومرخصها جوجل في وفاته.
وقالت لموقع Business Insider من منزلها في فلوريدا: “عندما يفعل ذلك شخص بالغ، فإن الضرر العقلي والعاطفي موجود. وعندما يفعل ذلك برنامج الدردشة الآلي، يوجد نفس الضرر العقلي والعاطفي”. “فمن المسؤول إذن عن شيء جرمنا أن يفعله البشر ببشر آخرين؟”
ورفض متحدث باسم Character.AI التعليق على الدعاوى القضائية المعلقة. قالت Google، التي استحوذت مؤخرًا على الفريق المؤسس لشركة Character.AI وقامت بترخيص بعض تقنيات الشركة الناشئة، إن الشركتين منفصلتان وغير مرتبطتين.
لقد أضاف انفجار تقنية chatbot التي تعمل بالذكاء الاصطناعي مصدرًا جديدًا للترفيه للمواطنين الرقميين الشباب. ومع ذلك، فقد أثار أيضًا مخاطر جديدة محتملة للمستخدمين المراهقين الذين قد يتأثرون بسهولة بهذه التجارب القوية عبر الإنترنت.
وقال يامان يو، الباحث في جامعة إلينوي الذي درس كيفية استخدام المراهقين للذكاء الاصطناعي التوليدي: “إذا لم نكن نعرف حقًا المخاطر الموجودة في هذا المجال، فلن نتمكن حقًا من تنفيذ حماية أو احتياطات جيدة للأطفال”.
“ضمادة على جرح غائر”
قالت جارسيا إنها تلقت تواصلًا من العديد من الآباء الذين يقولون إنهم اكتشفوا أطفالهم يستخدمون Character.AI ويتلقون رسائل جنسية صريحة من روبوتات الدردشة الخاصة بالشركة الناشئة.
وقال جارسيا: “إنهم لا يتوقعون أن أطفالهم يصبون قلوبهم في هذه الروبوتات وأن يتم جمع هذه المعلومات وتخزينها”.
بعد شهر من الدعوى القضائية التي رفعتها، قدمت العائلات في تكساس شكواهم الخاصة ضد Character.AI، زاعمين أن روبوتات الدردشة التابعة لها أساءت إلى أطفالهم وشجعت على العنف ضد الآخرين.
قال ماثيو بيرجمان، المحامي الذي يمثل المدعين في قضيتي جارسيا وتكساس، إن جعل روبوتات الدردشة تبدو وكأنها بشر حقيقيين هو جزء من كيفية زيادة Character.AI لمشاركتها، لذلك لن يتم تحفيزها لتقليل هذا التأثير.
وهو يعتقد أنه ما لم تتمكن شركات الذكاء الاصطناعي مثل Character.AI من إثبات أن البالغين فقط هم الذين يستخدمون التكنولوجيا من خلال طرق مثل التحقق من العمر، فإن هذه التطبيقات لن تكون موجودة.
وقال بيرجمان لـ BI: “إنهم يعلمون أن الجاذبية تكمن في التجسيم، وهذا هو العلم المعروف منذ عقود”. وأضاف أن إخلاء المسؤولية في الجزء العلوي من محادثات الذكاء الاصطناعي التي تذكر الأطفال بأن الذكاء الاصطناعي ليس حقيقيا هي مجرد “ضمادة صغيرة على جرح غائر”.
استجابة Character.AI
منذ رد الفعل القانوني العنيف، قامت شركة Character.AI بزيادة الإشراف على محتوى برنامج الدردشة الآلي الخاص بها وأعلنت عن ميزات جديدة مثل أدوات الرقابة الأبوية، وإشعارات الوقت المنقضي، وإخلاءات المسؤولية البارزة، ومنتج قادم لأقل من 18 عامًا.
وقال متحدث باسم Character.AI إن الشركة تتخذ خطوات فنية نحو حظر المخرجات والمدخلات “غير المناسبة”.
وأضاف المتحدث: “نحن نعمل على خلق مساحة يمكن أن يزدهر فيها الإبداع والاستكشاف دون المساس بالسلامة”. “في كثير من الأحيان، عندما يقوم نموذج لغة كبير بإنشاء محتوى حساس أو غير مناسب، فإنه يفعل ذلك لأن المستخدم يطالبه بمحاولة الحصول على هذا النوع من الاستجابة.”
وقال المتحدث إن الشركة الناشئة تضع الآن قيودًا أكثر صرامة على استجابات برامج الدردشة وتقدم مجموعة أضيق من الشخصيات القابلة للبحث للمستخدمين أقل من 18 عامًا، “خاصة عندما يتعلق الأمر بالمحتوى الرومانسي”.
وأضاف المتحدث: “تم تطبيق عوامل التصفية على هذه المجموعة لإزالة الشخصيات المرتبطة بالجريمة أو العنف أو الموضوعات الحساسة أو الجنسية”. “لا تسمح سياساتنا بالمحتوى الجنسي غير التوافقي، أو الرسوم البيانية أو الأوصاف المحددة للأفعال الجنسية. نحن نقوم باستمرار بتدريب نموذج اللغة الكبير الذي يمكّن الشخصيات على النظام الأساسي من الالتزام بهذه السياسات.”
وقال جارسيا إن التغييرات التي تنفذها شركة Character.AI “ليست كافية على الإطلاق لحماية أطفالنا”.
الحلول المحتملة، بما في ذلك التحقق من العمر
قال أرتيم روديتشيف، الرئيس السابق للذكاء الاصطناعي في شركة Replika الناشئة لروبوتات الدردشة، إنه شهد أن المستخدمين أصبحوا “متصلين بعمق” بأصدقائهم الرقميين.
وبما أن المراهقين ما زالوا في طور النمو النفسي، وهو يعتقد أنه لا ينبغي لهم الوصول إلى هذه التكنولوجيا قبل إجراء المزيد من الأبحاث حول تأثير برامج الدردشة الآلية وسلامة المستخدم.
وقال روديتشيف: “إن أفضل طريقة لـ Character.AI للتخفيف من كل هذه المشكلات هي فقط حظر جميع المستخدمين القاصرين. ولكن في هذه الحالة، فهو جمهور أساسي. وسيخسرون أعمالهم إذا فعلوا ذلك”.
في حين أن روبوتات الدردشة يمكن أن تصبح مكانًا آمنًا للمراهقين لاستكشاف الموضوعات التي تثير فضولهم بشكل عام، بما في ذلك الرومانسية والجنس، فإن السؤال هو ما إذا كانت شركات الذكاء الاصطناعي قادرة على القيام بذلك بطريقة صحية.
“هل يقدم الذكاء الاصطناعي هذه المعرفة بطريقة مناسبة للعمر، أم أنه يقوم بتصعيد المحتوى الصريح ومحاولة بناء روابط قوية وعلاقة مع المراهقين حتى يتمكنوا من استخدام الذكاء الاصطناعي بشكل أكبر؟” وقال الباحث يو.
الضغط من أجل تغييرات السياسة
منذ وفاة ابنها، أمضت جارسيا وقتًا في قراءة الأبحاث حول الذكاء الاصطناعي والتحدث مع المشرعين، بما في ذلك ممثل وادي السيليكون رو خانا، حول زيادة التنظيم.
يتواصل جارسيا مع ParentsSOS، وهي مجموعة من الآباء الذين يقولون إنهم فقدوا أطفالهم بسبب الأذى الناجم عن وسائل التواصل الاجتماعي ويناضلون من أجل المزيد من التنظيم التكنولوجي.
إنهم يضغطون في المقام الأول من أجل إقرار قانون سلامة الأطفال عبر الإنترنت (KOSA)، والذي يتطلب من شركات وسائل التواصل الاجتماعي القيام “بواجب الرعاية” تجاه منع الضرر والحد من الإدمان. تم اقتراح مشروع القانون في عام 2022، وتم تمريره في مجلس الشيوخ في يوليو، لكنه توقف في مجلس النواب.
مشروع قانون آخر لمجلس الشيوخ، COPPA 2.0، وهو نسخة محدثة من قانون حماية خصوصية الأطفال عبر الإنترنت لعام 1998، من شأنه أن يزيد سن تنظيم جمع البيانات عبر الإنترنت من 13 إلى 16 عامًا.
وقالت جارسيا إنها تدعم هذه الفواتير. وأضافت: “إنها ليست مثالية ولكنها البداية. في الوقت الحالي، ليس لدينا أي شيء، لذا فإن أي شيء أفضل من لا شيء”.
وتتوقع أن تستغرق عملية صنع السياسات سنوات، لأن الوقوف في وجه شركات التكنولوجيا قد يبدو وكأنه مواجهة “جالوت”.
تحديات التحقق من العمر
منذ أكثر من ستة أشهر، قامت شركة Character.AI بزيادة الحد الأدنى لسن المشاركة في برامج الدردشة الآلية الخاصة بها إلى 17 عامًا، ونفذت مؤخرًا المزيد من الإشراف للمستخدمين الذين تقل أعمارهم عن 18 عامًا. ومع ذلك، يمكن للمستخدمين التحايل بسهولة على هذه السياسات من خلال الكذب بشأن أعمارهم.
قامت شركات مثل Microsoft وX وSnap بدعم KOSA. ومع ذلك، حذرت بعض المجموعات المدافعة عن حقوق LGBTQ+ والتعديل الأول من الدستور أن مشروع القانون قد يفرض رقابة على المعلومات عبر الإنترنت حول الحقوق الإنجابية والقضايا المماثلة.
رفعت مجموعات الضغط في صناعة التكنولوجيا NetChoice ورابطة صناعة الكمبيوتر والاتصالات دعوى قضائية ضد تسع ولايات تطبق قواعد التحقق من العمر، زاعمة أن هذا يهدد حرية التعبير عبر الإنترنت.
أسئلة حول البيانات
يشعر جارسيا بالقلق أيضًا بشأن كيفية جمع البيانات الخاصة بالمستخدمين القاصرين واستخدامها عبر روبوتات الدردشة التي تعمل بالذكاء الاصطناعي.
غالبًا ما يتم تحسين نماذج الذكاء الاصطناعي والخدمات ذات الصلة من خلال جمع التعليقات من تفاعلات المستخدم، مما يساعد المطورين على ضبط روبوتات الدردشة لجعلها أكثر تعاطفاً.
قال Rodichev إنه “مخاوف مشروعة” بشأن ما يحدث لهذه البيانات في حالة اختراق أو بيع شركة chatbot.
“عندما يتحدث الأشخاص مع هذه الأنواع من روبوتات الدردشة، فإنهم يقدمون الكثير من المعلومات عن أنفسهم، وعن حالتهم العاطفية، وعن اهتماماتهم، وعن يومهم، وحياتهم، ومعلومات أكثر بكثير مما يعرفه Google أو Facebook أو أقاربك عنك،” Rodichev قال. “إن Chatbots لا تحكم عليك أبدًا وهي متاحة على مدار الساعة طوال أيام الأسبوع. والناس منفتحون نوعًا ما.”
سألت BI شركة Character.AI عن كيفية جمع المدخلات من المستخدمين القاصرين أو تخزينها أو استخدامها المحتمل لتدريب نماذجها اللغوية الكبيرة. ردًا على ذلك، أحال متحدث باسم BI إلى سياسة خصوصية Character.AI عبر الإنترنت.
وفقًا لهذه السياسة وصفحة الشروط والأحكام الخاصة بالشركة الناشئة، يمنح المستخدمون الشركة الحق في تخزين الأحرف الرقمية التي يقومون بإنشائها والمحادثات التي تجريها معهم. يمكن استخدام هذه المعلومات لتحسين وتدريب نماذج الذكاء الاصطناعي. يمكن إتاحة المحتوى الذي يرسله المستخدمون، مثل النصوص والصور ومقاطع الفيديو والبيانات الأخرى، لأطراف ثالثة تتمتع Character.AI بعلاقات تعاقدية معها، كما تنص السياسات.
وأشار المتحدث أيضًا إلى أن الشركة الناشئة لا تبيع بيانات صوتية أو نصية للمستخدم.
وقال المتحدث أيضًا إنه لفرض سياسات المحتوى الخاصة به، سيستخدم برنامج الدردشة الآلي “المصنفات” لتصفية المحتوى الحساس من استجابات نموذج الذكاء الاصطناعي، مع مصنفات إضافية وأكثر تحفظًا لمن تقل أعمارهم عن 18 عامًا. لدى الشركة الناشئة عملية لتعليق المراهقين الذين ينتهكون بشكل متكرر وأضاف المتحدث أن معلمات الإدخال الفوري.
إذا كنت أنت أو أي شخص تعرفه تعاني من الاكتئاب أو كان لديك أفكار لإيذاء نفسك أو الانتحار، فاحصل على المساعدة. في الولايات المتحدة، اتصل أو أرسل رسالة نصية على الرقم 988 للوصول الانتحار والأزمات شريان الحياة، الذي يوفر دعمًا سريًا ومجانيًا على مدار الساعة طوال أيام الأسبوع للأشخاص الذين يعانون من ضائقة، بالإضافة إلى أفضل الممارسات للمحترفين والموارد للمساعدة في الوقاية من حالات الأزمات. المساعدة متاحة أيضًا من خلال خط نص الأزمة – فقط أرسل رسالة نصية “HOME” إلى الرقم 741741 الرابطة الدولية لمنع الانتحار يقدم الموارد لأولئك خارج الولايات المتحدة.