مع تزايد المخاوف العالمية بشأن إساءة استخدام تقنيات الذكاء الاصطناعي، اتخذت ماليزيا وإندونيسيا خطوة جريئة بحظر تطبيق Grok، روبوت الدردشة المثير للجدل الذي طورته شركة xAI التابعة لإيلون ماسك. يأتي هذا القرار في أعقاب تقارير متزايدة حول قدرة التطبيق على توليد صور إباحية صريحة وغير موافقة، مما يثير تساؤلات حول المسؤولية الأخلاقية والتنظيمية للذكاء الاصطناعي التوليدي. هذا الحظر يعكس قلقًا أوسع نطاقًا بشأن حماية الأفراد، وخاصة النساء والأطفال، في الفضاء الرقمي.
تصاعد الجدل حول Grok والذكاء الاصطناعي التوليدي
أثار تطبيق Grok، الذي أُطلق في عام 2023، جدلاً واسعًا منذ إضافته ميزة إنشاء الصور المعروفة باسم “Grok Imagine”. تضمنت هذه الميزة ما يسمى بـ “الوضع الحار” الذي يسمح بإنشاء محتوى للبالغين، وهو ما أدى إلى انتشار سريع للصور الفاضحة والصريحة جنسيًا، بما في ذلك تلك التي تصور أطفالًا أو صورًا تم التلاعب بها لنساء. على الرغم من أن الشركة أضافت قيودًا على توليد الصور وتحريرها، إلا أن النقاد يرون أن هذه الإجراءات لم تكن كافية لمعالجة المشكلة بشكل جذري.
رد فعل xAI المثير للجدل
أظهرت شركة xAI رد فعل غير متوقع على الانتقادات المتزايدة. عندما طُلب منها التعليق على ردود الفعل العنيفة، تلقت وكالة أسوشيتد برس ردًا تلقائيًا من عنوان بريد إلكتروني لدعم الوسائط، جاء فيه ببساطة “Legacy Media Lies” (أكاذيب وسائل الإعلام التقليدية). هذه الرسالة نفسها وردت عند طلب تعليق على ردود الفعل السابقة، مما يشير إلى تجاهل واضح من جانب الشركة للمخاوف المطروحة.
حظر Grok في ماليزيا وإندونيسيا: تفاصيل القرار
أعلنت إندونيسيا حظرها المؤقت على تطبيق Grok يوم السبت، تلتها ماليزيا يوم الأحد، معلنةً عن نفس الإجراء. وقد بررت السلطات في كلا البلدين قرارها بالحاجة إلى حماية المواطنين من المحتوى الإباحي المزيف والانتهاكات الخطيرة لحقوق الإنسان والكرامة.
موقف إندونيسيا الرسمي
أوضح وزير الاتصالات والشؤون الرقمية الإندونيسي، ميوتيا حفيظ، في بيان رسمي أن “التزييف العميق الجنسي غير الرضائي يمثل انتهاكًا خطيرًا لحقوق الإنسان والكرامة وسلامة المواطنين في الفضاء الرقمي”. وأضاف المدير العام للإشراف على الفضاء الرقمي، ألكسندر صبار، أن التحقيقات الأولية كشفت عن نقص في الضمانات الفعالة داخل تطبيق Grok لمنع المستخدمين من إنشاء وتوزيع محتوى إباحي يعتمد على صور حقيقية لسكان إندونيسيين. وأشار إلى أن هذه الممارسات تهدد الخصوصية وتسبب ضررًا نفسيًا واجتماعيًا كبيرًا.
الإجراءات المتخذة في ماليزيا
في كوالالمبور، أمرت لجنة الاتصالات والوسائط المتعددة الماليزية بفرض قيود مؤقتة على أداة Grok، مشيرةً إلى “سوء استخدام متكرر” للأداة لإنشاء صور فاحشة وصريحة جنسيًا دون موافقة. وأكدت الهيئة التنظيمية أن الإشعارات الصادرة إلى X Corp. وxAI للمطالبة بضمانات أقوى لم تلقَ استجابة مرضية، واعتمدت بشكل أساسي على آليات الإبلاغ من قبل المستخدمين. وبالتالي، تم فرض التقييد كإجراء وقائي لحين وضع ضمانات فعالة.
تداعيات الحظر والتحقيقات الجارية
لا يقتصر تأثير هذه القضية على ماليزيا وإندونيسيا فحسب، بل امتد ليشمل دولًا أخرى مثل الاتحاد الأوروبي والمملكة المتحدة والهند وفرنسا، حيث يتم التدقيق في تطبيق Grok بشكل متزايد.
تحقيق في المملكة المتحدة
بدأ هيئة تنظيم وسائل الإعلام في المملكة المتحدة تحقيقًا رسميًا في ما إذا كانت شركة Grok قد “التزمت بواجباتها في حماية الأشخاص في المملكة المتحدة من المحتوى غير القانوني”. وتشمل التحقيقات تحديد ما إذا كانت الصور التي أنشأها Grok والتي تصور أطفالًا يتم استغلالهم جنسيًا أو أشخاصًا يتم خلع ملابسهم ترقى إلى مستوى المواد الإباحية أو مواد الاعتداء الجنسي على الأطفال.
تصريحات رسمية من الحكومة البريطانية
عبرت وزيرة التكنولوجيا البريطانية، ليز كيندال، عن قلقها الشديد بشأن المحتوى الذي تم إنشاؤه ومشاركته باستخدام Grok في الأيام الأخيرة، واصفةً إياه بأنه “مزعج للغاية”.
مستقبل تنظيم الذكاء الاصطناعي التوليدي
يثير هذا الحظر تساؤلات مهمة حول مستقبل تنظيم الذكاء الاصطناعي التوليدي. من الواضح أن الضمانات الحالية قد تكون غير كافية لمنع إساءة استخدام هذه التقنيات، وأن هناك حاجة إلى قوانين ولوائح أكثر صرامة لحماية الأفراد والمجتمع. يجب على الشركات المطورة لهذه التقنيات أن تتحمل مسؤولية أكبر عن المحتوى الذي يتم إنشاؤه باستخدام أدواتها، وأن تعمل بشكل استباقي لمنع انتشار المحتوى الضار وغير القانوني. إن مستقبل الذكاء الاصطناعي يعتمد على قدرتنا على تطويره واستخدامه بطريقة مسؤولة وأخلاقية.
في الختام، يمثل حظر تطبيق Grok في ماليزيا وإندونيسيا نقطة تحول في النقاش الدائر حول تنظيم الذكاء الاصطناعي التوليدي. إنه بمثابة تحذير للشركات المطورة لهذه التقنيات، ويؤكد على أهمية حماية حقوق الإنسان والكرامة في الفضاء الرقمي. من الضروري أن تستمر الحكومات والهيئات التنظيمية في العمل معًا لوضع قوانين ولوائح فعالة تضمن استخدام الذكاء الاصطناعي بطريقة آمنة ومسؤولة.