وجه المدعي العام في كاليفورنيا، روب بونتا، طلبًا رسميًا إلى شركة xAI التابعة لإيلون ماسك، لمنع روبوت الدردشة الخاص بها، “جروك”، من إنشاء صور مفبركة جنسية للأطفال. يأتي هذا الإجراء في أعقاب انتقادات متزايدة بشأن قدرة الروبوت على توليد صور غير موافق عليها، بما في ذلك تلك التي تصور قاصرين، مما أثار مخاوف جدية حول استغلال الأطفال وإنتاج مواد إباحية رقمية. هذه القضية المتعلقة بـ صور الذكاء الاصطناعي المفبركة تضع ضغوطًا متزايدة على شركات التكنولوجيا لتنظيم استخدام تقنيات الذكاء الاصطناعي التوليدية.
أرسلت مكتب بونتا خطابًا رسميًا بوقف الإجراءات إلى شركة xAI يوم الجمعة، مطالبةً إياها باتخاذ خطوات فورية لمنع “جروك” من إنشاء صور ذات محتوى جنسي لأشخاص لم يطلبوا ذلك، أو كانوا قاصرين وقت إنشاء الصورة. ويعتبر عدم الامتثال لهذا الطلب انتهاكًا لقوانين الولاية المتعلقة بالصور الإباحية المفبركة، واستغلال الأطفال جنسيًا، والتسجيل غير القانوني، والممارسات التجارية غير العادلة، وفقًا للخطاب.
التحقيق في قدرات “جروك” على إنشاء صور مفبركة
حددت شركة xAI مهلة حتى 20 يناير، الساعة 5 مساءً بتوقيت المحيط الهادئ، للالتزام بهذا الأمر. وقبل هذا الطلب، أعلنت منصة التواصل الاجتماعي “X”، المملوكة أيضًا لإيلون ماسك، عن تطبيق قيود على “جروك” بهدف الحد من هذه القدرات.
ذكر حساب “X Safety” في منشور على المنصة يوم الأربعاء أنهم قاموا بتنفيذ إجراءات تقنية لمنع “جروك” من تعديل صور أشخاص حقيقيين بملابس كاشفة مثل البكيني. وأضافوا أن هذا القيد ينطبق على جميع المستخدمين، بمن فيهم المشتركون المدفوعون.
ومع ذلك، وفقًا لتقرير صادر عن Business Insider، لم تنجح هذه الإجراءات في منع التطبيق من إنشاء صور ذات محتوى جنسي. وقد أظهرت الاختبارات أن “جروك” لا يزال قادرًا على توليد صور مفبركة غير لائقة بناءً على طلبات المستخدمين.
ردود الفعل الدولية والدعاوى القضائية
تواجه “جروك” انتقادات دولية متزايدة وإجراءات قانونية بسبب قدرتها على “تجريد” صور لأشخاص حقيقيين وإنشاء صور مفبركة كاشفة لهم دون موافقتهم. وصفت رئيسة الوزراء البريطانية كير ستارمر الصور التي تم إنشاؤها بواسطة “جروك” بأنها “مقززة” و “مخزية” خلال اجتماع في مجلس العموم.
بالإضافة إلى ذلك، لجأت بعض الدول في جنوب شرق آسيا، بما في ذلك إندونيسيا وماليزيا والفلبين، إلى حظر الوصول إلى “جروك” تمامًا. لم يتم رفع هذا الحظر حتى الآن، على الرغم من إعلان “X” عن تطبيق القيود المذكورة أعلاه.
على صعيد آخر، رفعت آشلي سانت كلير، وهي مؤثرة على وسائل التواصل الاجتماعي وخبيرة استراتيجية سياسية وأم لطفل لإيلون ماسك، دعوى قضائية ضد xAI يوم الخميس. وادعت سانت كلير في الدعوى أن “جروك” قام بإنشاء صور مفبركة ذات محتوى جنسي لها دون موافقتها، باستخدام صور قديمة لها من فترة الطفولة. هذه الدعوى القضائية تزيد من الضغط القانوني على الشركة.
تأتي هذه التطورات في سياق نقاش أوسع حول أخلاقيات الذكاء الاصطناعي التوليدي والمسؤولية القانونية لشركات التكنولوجيا عن المحتوى الذي يتم إنشاؤه بواسطة أنظمتها. الذكاء الاصطناعي يثير تساؤلات حول الخصوصية والموافقة وحماية الفئات الضعيفة.
لم يرد ممثلو مكتب المدعي العام في كاليفورنيا على الفور على طلبات التعليق من Business Insider. في المقابل، قدمت xAI ردًا آليًا على Business Insider، واصفةً وسائل الإعلام التقليدية بأنها “تكذب”.
تعتبر هذه القضية بمثابة اختبار حقيقي لقدرة الجهات التنظيمية على التعامل مع التحديات الجديدة التي تطرحها تقنيات الذكاء الاصطناعي. الصور المفبركة أصبحت أسهل في الإنشاء والتوزيع، مما يتطلب استجابة سريعة وفعالة لحماية الأفراد والمجتمع.
من المتوقع أن تواصل السلطات في كاليفورنيا تحقيقها في هذه المسألة، وقد تتخذ إجراءات قانونية إضافية ضد xAI إذا لم تلتزم بطلب وقف الإجراءات. كما يجب مراقبة رد فعل الشركة على هذه الاتهامات، وما إذا كانت ستتخذ خطوات ملموسة لتحسين أنظمتها وضمان عدم استخدامها في إنتاج مواد ضارة أو غير قانونية. الأمن السيبراني وحماية البيانات هما أيضًا من الجوانب الهامة التي يجب أخذها في الاعتبار في هذا السياق.
