حرف.AI هو حظر القاصرين من استخدام روبوتات الدردشة الخاصة بها وسط مخاوف متزايدة بشأن تأثيرات محادثات الذكاء الاصطناعي على الأطفال. وتواجه الشركة عدة دعاوى قضائية بشأن سلامة الأطفال، بما في ذلك من قبل والدة المراهق الذي يقول إن الشركة دفعت روبوتات الدردشة ابنها المراهق ليقتل نفسه.
قالت شركة Character Technologies، وهي شركة مقرها مينلو بارك بولاية كاليفورنيا، وهي تعمل على تطوير Character.AI، يوم الأربعاء إنها ستزيل قدرة المستخدمين الذين تقل أعمارهم عن 18 عامًا على المشاركة في محادثات مفتوحة مع شخصيات الذكاء الاصطناعي. ستدخل التغييرات حيز التنفيذ بحلول 25 نوفمبر وسيبدأ الحد اليومي لمدة ساعتين على الفور. وأضافت شركة Character.AI أنها تعمل على ميزات جديدة للأطفال – مثل القدرة على إنشاء مقاطع فيديو وقصص وتدفقات باستخدام شخصيات الذكاء الاصطناعي. وتقوم الشركة أيضًا بإنشاء مختبر سلامة الذكاء الاصطناعي.
وقالت شركة Character.AI إنها ستطرح وظائف التحقق من العمر للمساعدة في تحديد المستخدمين الذين تقل أعمارهم عن 18 عامًا. ويتجه عدد متزايد من منصات التكنولوجيا إلى التحقق من العمر لمنع الأطفال من الوصول إلى الأدوات التي ليست آمنة بالنسبة لهم. لكن هذه الأمور غير مثالية، والعديد من الأطفال يجدون طرقًا للالتفاف حولها. على سبيل المثال، لا يمكن لمسح الوجه دائمًا معرفة ما إذا كان عمر الشخص 17 أو 18 عامًا. وهناك مخاوف تتعلق بالخصوصية حول مطالبة الأشخاص بتحميل بطاقات الهوية الحكومية.
Character.AI، هو تطبيق يسمح للمستخدمين بإنشاء شخصيات قابلة للتخصيص أو التفاعل مع تلك التي أنشأها الآخرون، ويمتد الخبرات بدءًا من اللعب الخيالي وحتى مقابلات العمل الوهمية. وتقول الشركة إن الشخصيات المصطنعة مصممة بحيث “تشعر بأنها حية” و”شبيهة بالإنسان”.
“تخيل أنك تتحدث إلى شخصيات روبوت دردشة فائقة الذكاء ونابضة بالحياة تسمعك وتفهمك وتتذكرك”، كما جاء في وصف التطبيق على Google Play. “نحن نشجعك على دفع حدود ما هو ممكن باستخدام هذه التكنولوجيا المبتكرة.”
ورحب المنتقدون بهذه الخطوة، لكنهم قالوا إنها ليست كافية، وكان ينبغي القيام بها في وقت مبكر. وقالت ميتالي جاين، المديرة التنفيذية لمشروع قانون العدالة التقنية: “لا يزال هناك الكثير من التفاصيل مفتوحة”.
وقال جاين: “إنهم لم يتناولوا كيفية تفعيل التحقق من العمر، وكيف سيضمنون أن أساليبهم تحافظ على الخصوصية، كما أنهم لم يعالجوا التأثير النفسي المحتمل لتعطيل الوصول المفاجئ للمستخدمين الشباب، بالنظر إلى التبعيات العاطفية التي تم إنشاؤها”. “علاوة على ذلك، فإن هذه التغييرات لا تعالج ميزات التصميم الأساسية التي تسهل هذه التبعيات العاطفية – ليس فقط للأطفال، ولكن أيضًا للأشخاص الذين تزيد أعمارهم عن 18 عامًا.”
أكثر من 70% من المراهقين استخدموا الذكاء الاصطناعي المرافق ونصف يستخدمونها بانتظام، وفقًا لـ دراسة حديثة من Common Sense Media، وهي مجموعة تدرس وتدافع عن استخدام الشاشات والوسائط الرقمية بشكل معقول.
