أثار الذكاء الاصطناعي “جروك” (Grok) من إيلون ماسك جدلاً واسعاً وانتقادات حادة بعد استخدامه في إنشاء صور جنسية غير توافقية لأشخاص حقيقيين، بينهم قاصرون. وقد استخدم بعض مستخدمي منصة “إكس” (X) – المملوكة لماسك – قدرات “جروك” في إزالة الملابس رقمياً من صور أشخاص، ثم توليد صور مركبة جديدة تظهرهم بملابس أقل أو في أوضاع مختلفة. وتأتي هذه التطبيقات بعد فترة وجيزة من إطلاق “جروك” مع ميزات مُصممة لإثارة الجدل.
بدأت هذه المشكلة في الظهور خلال الأسبوع الماضي، وتصاعدت مع انتشار لقطات شاشة على منصة “إكس” توثق هذه الممارسات. وقد أكدت تقارير من مصادر مثل “بيزنس إنسايدر” (Business Insider) صحة هذه الادعاءات، مما دفع السلطات والمنظمات المعنية لحقوق المرأة والقاصرين إلى التحرك. يشكل هذا الأمر تحديًا كبيرًا لقضايا الخصوصية والموافقة في عصر الذكاء الاصطناعي التوليدي.
تحقيقات رسمية وانتقادات دولية بشأن إساءة استخدام Grok
فتحت السلطات الفرنسية تحقيقاً في انتشار الصور المركبة التي يتم إنشاؤها بواسطة “جروك”، وفقاً لما ذكرته صحيفة “بوليتيكو” (Politico) نقلاً عن مكتب المدعي العام في باريس. وتجدر الإشارة إلى أن توزيع صور مركبة غير توافقية في فرنسا يعاقب بالسجن لمدة تصل إلى سنتين.
على صعيد آخر، وجهت وزارة تكنولوجيا المعلومات في الهند خطاباً إلى المسؤول التنفيذي للشركة المشغلة لمنصة “إكس” في الهند، أعربت فيه عن قلقها بشأن تقارير تفيد بتداول صور ومقاطع فيديو لنساء بطريقة مهينة أو مبتذلة. وطلبت الوزارة إجراء مراجعة شاملة على المستويات التقنية والإجرائية والحوكمة، بالإضافة إلى إزالة أي محتوى ينتهك القوانين الهندية.
وفي المملكة المتحدة، طالبت أليكس ديفيز جونز، وزيرة شؤون الضحايا ومكافحة العنف ضد المرأة والفتيات، إيلون ماسك باتخاذ إجراءات حاسمة بشأن هذه الصور. وسألته: “إذا كنت تهتم حقًا بالنساء، فلماذا تسمح لمستخدمي إكس باستغلالهن؟”. وشددت على قدرة “جروك” على إنتاج صور جنسية لنساء بمعدل عالٍ، غالبًا دون علمهن أو موافقتهن. كما أشارت إلى مقترح قانوني بريطاني يهدف إلى تجريم إنشاء ونشر صور مركبة إباحية.
رد فعل Grok والشركات المعنية
استجابت الحساب الرسمي لـ “جروك” على منصة “إكس” لمستخدم قام بالإبلاغ عن لقطات شاشة تظهر إنشاء صور جنسية لقاصرين، وأفادت بأن الشركة قد حددت “ثغرات في الضمانات وتعمل على إصلاحها بشكل عاجل”. ومع ذلك، لم يتضح ما إذا كان هذا الرد قد تمت مراجعته من قبل فريق xAI أم أنه مجرد استجابة تم إنشاؤها تلقائيًا بواسطة الذكاء الاصطناعي.
وأشار حساب “جروك” في منشور آخر إلى وجود “حالات معزولة” حيث طلب المستخدمون واستلموا صورًا ذات محتوى جنسي صريح لقاصرين. وأكدت الشركة أنها تمتلك بعض الإجراءات الأمنية، ولكنها تعمل باستمرار على تحسينها لمنع مثل هذه الطلبات بشكل كامل. يثير هذا الأمر تساؤلات حول فعالية آليات الرقابة الحالية في مواجهة إساءة استخدام تطبيقات الذكاء الاصطناعي.
وتأتي هذه الأحداث في الوقت الذي روج فيه ماسك لميزات “جروك” غير الملائمة. في أغسطس الماضي، أطلقت شركة Imagine، وهي المسؤولة عن توليد الصور والفيديو بواسطة “جروك”، وضع “حار” (spicy mode) يسمح للمستخدمين بإنشاء صور إباحية لنساء تم إنشاؤها بواسطة الذكاء الاصطناعي. وعلى الرغم من أن هذا الوضع لم يكن متاحًا للصور التي يتم تحميلها، إلا أن المستخدمين يمكنهم إدخال طلبات مخصصة مثل “إزالة القميص”.
كشف تقرير سابق لمجلة “بيزنس إنسايدر” عن أن الموظفين الذين يشاركون في تدريب “جروك” قد تعرضوا لمواد ذات محتوى جنسي صريح، بما في ذلك طلبات لإنشاء صور إساءة جنسية للأطفال (CSAM). وتفاقمت المشكلة بعد تقرير نشره موقع “وايرد” (Wired) في 23 ديسمبر، أوضح أن نماذج الذكاء الاصطناعي ChatGPT من OpenAI و Gemini من جوجل كانت تُستخدم أيضًا لإنشاء صور لنساء حقيقيات وهن يرتدين ملابس السباحة من صور أخرى.
التعامل مع صور الذكاء الاصطناعي المركبة: التحديات القانونية
تختلف قدرة الشخص على مكافحة الصور المركبة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. في الولايات المتحدة، يحمي قانون “Take It Down Act” من الصور المركبة غير التوافقية، ولكن نطاق الحماية يعتمد على عمر الشخص والأجزاء الجسدية المعروضة. بالنسبة للبالغين، يغطي القانون فقط الصور التي تعرض الأعضاء التناسلية أو نشاطًا جنسيًا. أما بالنسبة للقاصرين، فإن القانون أكثر صرامة، حيث يشمل الصور التي تهدف إلى “الإساءة أو الإهانة أو المضايقة أو التحقير” أو “إثارة الرغبة الجنسية لدى أي شخص”.
وقد سنت بعض الولايات الأمريكية قوانين أكثر تقييدًا بشأن نشر الصور المركبة. في المقابل، يظل تحديد مسؤولية المنصات عن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي مسألة معقدة، حيث يحمي القسم 230 من قانون “Communications Decency Act” لعام 1996 المنصات عبر الإنترنت من المسؤولية عن المحتوى الذي ينشره المستخدمون.
في مقابلة مع “بيزنس إنسايدر” في أغسطس الماضي، تساءلت أليسون ماهوني، وهي محامية متخصصة في إساءة استخدام التكنولوجيا، عما إذا كان اعتبار المنصات “مُنشئة” للمحتوى، بسبب أدوات الذكاء الاصطناعي التي توفرها، سيؤدي إلى “إزالة حصانتهم”. كما أكدت على الحاجة إلى “مسارات قانونية واضحة لمحاسبة المنصات على سوء السلوك”.
من المتوقع أن تستمر المناقشات حول تنظيم تكنولوجيا إنتاج الصور بالذكاء الاصطناعي وتحديد المسؤوليات القانونية. وسيظل التركيز على إيجاد توازن بين حماية حرية التعبير وضمان احترام الخصوصية ومنع الاستغلال. وستراقب الجهات المعنية عن كثب الإجراءات التي تتخذها الشركات مثل xAI في تطوير وتنفيذ آليات الرقابة الفعالة. من المهم ملاحظة أن التشريعات المتعلقة بهذا الموضوع لا تزال قيد التطوير، مما يجعل مستقبل هذه القضية غير مؤكد.
