لندن (AP)-قال Openai يوم الاثنين إنه يضيف عناصر تحكم الوالدين إلى ChatGPT مصممة لتزويد مستخدمي المراهقين بالمنصة الشعبية بتجربة أكثر أمانًا وأكثر “مناسبة للعمر”.
تتخذ الشركة إجراءً بعد أن أصدرت سلامة AI chatbot للمستخدمين الشباب العناوين الرئيسية. تم تسليط الضوء على مخاطر التكنولوجيا مؤخرًا من خلال عدد من الحالات التي يكون فيها المراهقون أخذوا حياتهم بعد التفاعل مع chatgpt.
في الولايات المتحدة ، حتى لجنة التجارة الفيدرالية حتى فتح استفسار في العديد من شركات التكنولوجيا حول الأضرار المحتملة للأطفال والمراهقين الذين يستخدمون شركات الدردشة من الذكاء الاصطناعى الخاصة بهم كرفاق.
في منشور مدونة تم نشره يوم الاثنين ، حدد Openai عناصر التحكم الجديدة للآباء. هنا انهيار:
ابدء
ستكون أدوات التحكم الوالدية متاحة لجميع المستخدمين ، لكن كل من الآباء والمراهقين سيحتاجون إلى حساباتهم الخاصة للاستفادة منها.
للبدء ، يحتاج أحد الوالدين أو الوصي إلى إرسال بريد إلكتروني أو رسالة نصية لدعوة مراهق لتوصيل حساباته. أو يمكن للمراهق إرسال دعوة إلى أحد الوالدين. يمكن للمستخدمين إرسال طلب عن طريق الانتقال إلى قائمة الإعدادات ثم إلى قسم “عناصر التحكم الوالدية”.
يمكن للمراهقين إلغاء ربط حساباتهم في أي وقت ، ولكن سيتم إخطار الآباء إذا فعلوا ذلك.
ضمانات تلقائية
وقال Openai إنه بمجرد ربط الحسابات ، سيحصل حساب Teen على بعض الحماية المدمجة.
وقالت الشركة إن حسابات المراهقين “ستحصل تلقائيًا على حماية إضافية للمحتوى ، بما في ذلك المحتوى الرسومي المنخفض ، والتحديات الفيروسية ، والتشغيل الجنسي أو الرومانسي أو العدو على الأدوار ، ومثل الجمال الشديد ، للمساعدة في الحفاظ على تجربتها لتوهش العمر”.
يمكن للوالدين اختيار إيقاف تشغيل هذه المرشحات ، لكن مستخدمي المراهقين ليس لديهم الخيار.
يحذر Openai من أن مثل هذه الدرابزين “ليست مضمونة ويمكن تجاوزها إذا كان شخص ما يحاول عن قصد الالتفاف حولهم”. نصح الآباء بالتحدث مع أطفالهم حول “استخدام الذكاء الاصطناعي الصحي”.
ضبط الإعدادات
يحصل أولياء الأمور على لوحة تحكم حيث يمكنهم ضبط مجموعة من الإعدادات وكذلك إيقاف تشغيل القيود المفروضة على المحتوى الحساس المذكور أعلاه.
على سبيل المثال ، هل يبقى ابنك المراهق مستيقظًا في وقت النوم لاستخدام chatgpt؟ يمكن للوالدين تعيين وقت هادئ عندما لا يمكن استخدام chatbot.
تتضمن الإعدادات الأخرى إيقاف تشغيل ذاكرة الذكاء الاصطناعي بحيث لا يمكن حفظ المحادثات ولن يتم استخدامها في الاستجابات المستقبلية ؛ إيقاف القدرة على إنشاء أو تحرير الصور ؛ إيقاف تشغيل وضع الصوت ؛ وانتزاع من الدردشات المستخدمة لتدريب طرز AI ChatGPT.
يتم إخطارها
أصبح Openai أيضًا أكثر نشاطًا عندما يتعلق الأمر بإعلام الوالدين أن طفلهم قد يكون في محنة.
إنه يقوم بإعداد نظام إشعار جديد لإبلاغهم عندما يكون هناك شيء ما “خاطئ بشكل خطير” وقد يفكر مستخدم في سن المراهقة في إيذاء أنفسهم.
سيقوم فريق صغير من المتخصصين بمراجعة الموقف ، وفي الحالة النادرة أن هناك “علامات على الضيق الحاد” ، سوف يقومون بإخطار أولياء الأمور عن طريق البريد الإلكتروني والرسالة النصية ودفع التنبيه على هواتفهم – ما لم يخترق الوالد.
وقالت Openai إنها ستحمي خصوصية المراهق من خلال مشاركة المعلومات اللازمة للآباء أو مستجيبي الطوارئ لتقديم المساعدة.
وقالت الشركة: “لا يوجد نظام مثالي ، ونحن نعلم أننا قد نرفع في بعض الأحيان إنذارًا عندما لا يكون هناك خطر حقيقي ، لكننا نعتقد أنه من الأفضل أن نتصرف وتنبيه أحد الوالدين حتى يتمكنوا من التدخل بدلاً من التزام الصمت”.
____
هل هناك موضوع تقني تعتقد أنه يحتاج إلى شرح؟ اكتب إلينا على (البريد الإلكتروني المحمي) مع اقتراحاتك للحصول على إصدارات مستقبلية لنصيحة تقنية واحدة.