فرضت السلطات الإندونيسية حظرًا على الوصول إلى روبوت الدردشة الذكي “جروك” (Grok) التابع لشركة xAI المملوكة لإيلون ماسك، بعد تقارير عن استخدامه لإنشاء صور إباحية مُعدَّلة رقميًا لنساء وأطفال. يأتي هذا الإجراء في أعقاب مخاوف دولية متزايدة بشأن إساءة استخدام الذكاء الاصطناعي في إنتاج محتوى غير قانوني وضار. ويعتبر هذا الحظر الأحدث في سلسلة من الإجراءات المتخذة ضد “جروك” بسبب قدرته على توليد صور جنسية صريحة دون موافقة.
أعلنت وزارة الاتصالات الإندونيسية عن تعليق مؤقت للوصول إلى “جروك” بهدف “حماية النساء والأطفال والمجتمع ككل من مخاطر المحتوى الإباحي المزيف الذي يتم إنشاؤه باستخدام تكنولوجيا الذكاء الاصطناعي“. وأكدت الوزيرة ميوتيا حافظ أن الحكومة تعتبر ممارسة إنشاء صور جنسية عميقة (deepfakes) غير توافقية انتهاكًا خطيرًا لحقوق الإنسان والكرامة والأمن الرقمي للمواطنين.
تزايد المخاوف العالمية بشأن روبوت الدردشة جروك
يأتي قرار إندونيسيا بعد تحذيرات مماثلة من دول أخرى، حيث أبدت السلطات الفرنسية هذا الشهر عزمها على التحقيق في الصور الإباحية المُعدَّلة رقميًا التي تم إنشاؤها بواسطة “جروك”، وفقًا لما ذكرته وكالة “بوليتيكو”. وفي الهند، انتقدت الحكومة بشكل مباشر استخدام “جروك” لتوليد صور ومقاطع فيديو مسيئة للنساء.
وقد أرسلت الحكومة الهندية خطابًا رسميًا إلى ممثل الامتثال الرئيسي لشركة X (تويتر سابقًا) – التي تدمج “جروك” في منصتها – أعربت فيه عن قلقها إزاء إساءة استخدام الروبوت، مشيرةً إلى أنه يستخدم لإنتاج صور أو مقاطع فيديو تهدف إلى تشويه سمعة النساء بطريقة غير لائقة.
ردود فعل الشركات التنظيمية
وفي المملكة المتحدة، اتصلت هيئة الاتصالات البريطانية (Ofcom) بشكل عاجل بشركة X و xAI لفهم الإجراءات التي تم اتخاذها لضمان الامتثال للالتزامات القانونية المتعلقة بحماية المستخدمين. تأتي هذه الخطوة في ظل تزايد الضغوط على شركات التكنولوجيا لتنظيم المحتوى الذي يتم إنشاؤه بواسطة أنظمة الذكاء الاصطناعي.
بالإضافة إلى ذلك، وجه العديد من أعضاء مجلس الشيوخ الأمريكي رسالة إلى شركتي Apple و Google يطالبان فيها بإزالة X و “جروك” من متاجر التطبيقات الخاصة بهما بسبب هذه الصور. وأشاروا إلى أن السماح بوجود هذه التطبيقات قد يقوض ثقة المستخدمين في إجراءات الإشراف على المحتوى التي تتبعها الشركتان.
ورداً على هذه الانتقادات، صرح إيلون ماسك عبر منصة X أن أي شخص يستخدم “جروك” لإنشاء محتوى غير قانوني سيواجه نفس العواقب المترتبة على رفع محتوى غير قانوني مباشرةً إلى المنصة. كما أكد حساب السلامة الخاص بـ X أن الشركة تتخذ إجراءات صارمة ضد المحتوى غير القانوني، بما في ذلك المواد المتعلقة بالاعتداء الجنسي على الأطفال، عن طريق إزالته وتعليق الحسابات المخالفة والتعاون مع السلطات المحلية.
تعتبر قضية “جروك” مثالاً بارزاً على التحديات الأخورية والقانونية التي تطرحها تكنولوجيا الذكاء الاصطناعي التوليدية. فمع القدرة المتزايدة لهذه الأنظمة على إنشاء محتوى واقعي، تزداد المخاطر المتعلقة بإساءة الاستخدام وانتهاك الخصوصية.
وفي أعقاب ردود الفعل السلبية، قامت شركة xAI بتقييد استخدام مولد الصور بالذكاء الاصطناعي في “جروك” للمشتركين المدفوعين فقط. قد يكون هذا الإجراء محاولة للحد من الوصول إلى الأداة وبالتالي تقليل احتمالية إساءة استخدامها.
تتطور هذه القضية باستمرار، ومن المتوقع أن تتخذ السلطات الإندونيسية قرارًا نهائيًا بشأن مستقبل الوصول إلى “جروك” بعد مراجعة شاملة للإجراءات التي اتخذتها شركة X لمعالجة هذه المشكلة. كما يراقب المراقبون ردود فعل الشركات التنظيمية الأخرى في جميع أنحاء العالم ويتوقعون المزيد من التدقيق في ممارسات الذكاء الاصطناعي التوليدية.