- يحقق مجلس الرقابة في ميتا في حالتين من الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي لشخصيات عامة نسائية.
- تتضمن إحدى الحالات تزييفًا إباحيًا عميقًا لشخصية أمريكية على فيسبوك.
- سيقوم مجلس الإدارة بمراجعة سياسات Meta حول كيفية التعامل مع صور الذكاء الاصطناعي الصريحة.
أعلن مجلس الرقابة في شركة ميتا يوم الثلاثاء أنه سيحقق في سياسات الشركة المتعلقة بالتزييف العميق للنساء بواسطة الذكاء الاصطناعي.
وقال مجلس إدارة عملاق التكنولوجيا إنه يبحث في حالتين محددتين، واحدة على إنستغرام والأخرى على فيسبوك.
تتضمن إحدى الحالات صورة تم إنشاؤها بواسطة الذكاء الاصطناعي تشبه شخصية عامة أمريكية عارية مع رجل يتحسسها. تمت تسمية الشخصية في التعليق وتم نشرها في مجموعة فيسبوك لإبداعات الذكاء الاصطناعي.
ولم يحدد مجلس الرقابة في شركة ميتا الشخصية العامة التي تم استخدامها في التزييف العميق للذكاء الاصطناعي.
وقال مجلس الرقابة إن مستخدمًا مختلفًا قد نشر بالفعل الصورة العارية التي تم إنشاؤها بواسطة الذكاء الاصطناعي قبل مشاركتها في مجموعة فيسبوك. تمت إزالة الصورة الفاضحة لانتهاكها سياسة التنمر والتحرش بسبب “الفوتوشوب أو الرسومات ذات الطابع الجنسي المهينة”.
استأنف المستخدم الذي نشر الصورة عملية الإزالة، وهو ما رفضه النظام الآلي. ثم استأنف المستخدم إلى المجلس.
أثارت الصور الإباحية العميقة لتايلور سويفت على X ضجة على الإنترنت في يناير. وأظهرت العديد من الصور نجم البوب وهو يمارس أفعالاً جنسية في ملاعب كرة القدم.
اجتذبت إحدى المشاركات التي تم تحميلها بواسطة مستخدم تم التحقق منه على X، Twitter سابقًا، أكثر من 45 مليون مشاهدة قبل أن يحذفها المشرفون بعد حوالي 17 ساعة.
ويتضمن التحقيق الآخر صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لامرأة عارية تشبه شخصية عامة من الهند. تم نشر المحتوى على حساب Instagram الذي يشارك فقط الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي للنساء الهنديات.
في هذه الحالة، فشل Meta في حذف المحتوى بعد الإبلاغ عنه مرتين. استأنف المستخدم أمام مجلس الإدارة ووجدت Meta أن قرارها بالاحتفاظ بالمحتوى كان خطأً. ثم قام بإزالة المنشور لانتهاكه معايير مجتمع التنمر والتحرش.
قال مجلس الإدارة إنه اختار هذه الحالات لمعرفة ما إذا كانت Meta تتعامل بشكل فعال مع الصور الواضحة التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
تحدث السياسيون والشخصيات العامة وقادة الأعمال علنًا عن التزييف العميق والمخاطر التي تشكلها.
وقالت السكرتيرة الصحفية للبيت الأبيض، كارين جان بيير، في وقت سابق، إن التراخي في تطبيق التزييف العميق يؤثر بشكل غير متناسب على النساء والفتيات “اللواتي هن الأهداف الساحقة”.
وقال جان بيير أيضًا إنه في حين أن التشريعات يجب أن تلعب دورًا في معالجة هذه المشكلة، إلا أنه يجب على منصات التواصل الاجتماعي حظر محتوى الذكاء الاصطناعي الضار من تلقاء نفسها.
وصف ساتيا ناديلا، الرئيس التنفيذي لشركة Microsoft، الصور المزيفة بأنها عارية تايلور سويفت “مثيرة للقلق ورهيبة” وطالبوا بمزيد من الحماية من هذه الصور.
ننسى فقط الإباحية. ويمكن أيضًا استخدام التزييف العميق للتأثير على الانتخابات. بالفعل، ظهرت المكالمات المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي من الرئيس جو بايدن في الانتخابات التمهيدية.
يريد مجلس الرقابة في ميتا من الجمهور إبداء رأيه في القضيتين. وطلب تعليقات تقترح استراتيجيات حول كيفية معالجة هذه المشكلة وتعليقات حول مدى خطورتها.
وقال في الإعلان إن مجلس الرقابة سيتداول بشأن القرارات خلال الأسابيع القليلة المقبلة قبل نشر النتيجة. على الرغم من أن توصيات مجلس الإدارة ليست ملزمة، إلا أنه يتعين على Meta الرد عليها في غضون 60 يومًا.