لندن (رويترز) – قالت لجنة الرقابة التابعة لشركة ميتا يوم الخميس في قرار بشأن قضايا تتعلق بتصوير صريح تم إنشاؤه بواسطة الذكاء الاصطناعي لامرأتين مشهورتين إن سياسات الشركة بشأن الصور المزيفة غير التوافقية تحتاج إلى تحديث، بما في ذلك الصياغة “غير الواضحة بدرجة كافية”.
وقالت هيئة الرقابة شبه المستقلة في إحدى الحالات، إن عملاق وسائل التواصل الاجتماعي فشل في إزالة صورة حميمة مزيفة لامرأة هندية مشهورة، لم تحدد هويتها، حتى تدخل مجلس المراجعة التابع للشركة.
صور ديباك العارية للنساء والمشاهير بما في ذلك تايلور سويفت انتشرت الإعلانات التجارية على وسائل التواصل الاجتماعي لأن التكنولوجيا المستخدمة في إنتاجها أصبحت أكثر سهولة في الوصول إليها واستخدامها. أصبحت المنصات عبر الإنترنت مواجهة الضغط لبذل المزيد من الجهود لمعالجة المشكلة.
اللوحة التي أنشأتها ميتا في عام 2020 وقد أمضت لجنة التحكيم، التي تعمل كمحكم للمحتوى على منصاتها بما في ذلك فيسبوك وإنستغرام، أشهرًا في مراجعة حالتين تتعلقان بصور تم إنشاؤها بواسطة الذكاء الاصطناعي تصور امرأتين مشهورتين، إحداهما هندية والأخرى أمريكية. ولم تحدد اللجنة هوية أي من المرأتين، ووصفت كل منهما فقط بأنها “شخصية عامة نسائية”.
وقالت ميتا إنها ترحب بتوصيات المجلس وهي تقوم بمراجعتها.
كانت إحدى الحالات تتعلق بـ”صورة تم التلاعب بها بواسطة الذكاء الاصطناعي” نُشرت على موقع إنستغرام تصور امرأة هندية عارية من الخلف مع ظهور وجهها، وتشبه “شخصية عامة نسائية”. وقالت اللجنة إن أحد المستخدمين أبلغ عن الصورة باعتبارها إباحية لكن لم تتم مراجعة التقرير في غضون مهلة 48 ساعة، لذا تم إغلاقه تلقائيًا. قدم المستخدم استئنافًا إلى Meta، لكن تم إغلاقه تلقائيًا أيضًا.
ولم يكن الأمر كذلك إلا بعد أن تقدم المستخدم باستئناف إلى مجلس الرقابة، حيث قررت Meta أن قرارها الأصلي بعدم إزالة المنشور كان خاطئًا.
كما قامت شركة Meta بتعطيل الحساب الذي قام بنشر الصور وإضافتها إلى قاعدة بيانات تستخدم للكشف التلقائي عن الصور التي تنتهك قواعدها وإزالتها.
في الحالة الثانية، تم نشر صورة تم إنشاؤها بواسطة الذكاء الاصطناعي تصور النساء الأمريكيات عاريات ويتعرضن للتحرش على مجموعة على فيسبوك. وتم حذفها تلقائيًا لأنها كانت موجودة بالفعل في قاعدة البيانات. وقد استأنف أحد المستخدمين قرار الإزالة أمام المجلس، لكن المجلس أيد قرار ميتا.
وقالت اللجنة إن الصورتين انتهكتا حظر ميتا لـ “الفوتوشوب المهين جنسيًا” بموجب سياسة التنمر والمضايقة.
ولكنها أضافت أن صياغة سياستها لم تكن واضحة للمستخدمين وأوصت باستبدال كلمة “مهين” بمصطلح مختلف مثل “غير توافقي” وتحديد أن القاعدة تغطي مجموعة واسعة من تقنيات التحرير والتلاعب بالوسائط التي تتجاوز “الفوتوشوب”.
وأضافت أن الصور العارية المزيفة يجب أن تندرج أيضًا ضمن معايير المجتمع بشأن “الاستغلال الجنسي للبالغين” بدلاً من “التنمر والمضايقة”.
وعندما سأل المجلس شركة ميتا عن سبب عدم وجود المرأة الهندية بالفعل في قاعدة بيانات الصور الخاصة بها، شعرت بالفزع من رد الشركة بأنها اعتمدت على التقارير الإعلامية.
وقالت اللجنة: “هذا أمر مثير للقلق لأن العديد من ضحايا الصور الحميمة المزيفة ليسوا في أعين الجمهور ويضطرون إما إلى قبول انتشار تصويرهم غير التوافقي أو البحث عن كل حالة والإبلاغ عنها”.
وقالت اللجنة أيضًا إنها تشعر بالقلق بشأن “الإغلاق التلقائي” الذي تقوم به شركة ميتا لاستئنافات الاعتداء الجنسي على أساس الصورة بعد 48 ساعة، قائلة إن ذلك “قد يكون له تأثير كبير على حقوق الإنسان”.
أطلقت شركة ميتا، التي كانت تُعرف آنذاك باسم فيسبوك، مجلس الرقابة في عام 2020 ردًا على الانتقادات التي وجهت إليها بأنها لم تتحرك بالسرعة الكافية لإزالة المعلومات المضللة وخطاب الكراهية وحملات التأثير من منصاتها. ويضم المجلس 21 عضوًا، وهم مجموعة متعددة الجنسيات تضم علماء قانونيين وخبراء في مجال حقوق الإنسان وصحفيين.