بعد مرور ما يقرب من عام على قيام صور عارية لفتيات في مدرسة ثانوية تم إنشاؤها بواسطة الذكاء الاصطناعي بالتأثير على مجتمع في جنوب إسبانيا، حكمت محكمة الأحداث هذا الصيف على 15 من زميلاتهن في الفصل بالسجن لمدة عام مع وقف التنفيذ.
لكن أداة الذكاء الاصطناعي المستخدمة في إنشاء مقاطع الفيديو المزيفة الضارة لا تزال متاحة بسهولة على الإنترنت، وتتعهد بـ”تعرية أي صورة” يتم تحميلها على الموقع في غضون ثوانٍ.
والآن، تجري محاولات جديدة لإغلاق التطبيق والتطبيقات المماثلة له في ولاية كاليفورنيا، حيث رفعت سان فرانسيسكو هذا الأسبوع دعوى قضائية هي الأولى من نوعها، ويقول الخبراء إنها قد تشكل سابقة ولكنها ستواجه أيضًا العديد من العقبات.
وقال ديفيد تشيو، المدعي العام المنتخب لمدينة سان فرانسيسكو، الذي رفع القضية ضد مجموعة من المواقع الإلكترونية التي تحظى بزيارات واسعة النطاق ومقرها إستونيا وصربيا والمملكة المتحدة وأماكن أخرى: “لقد استغل انتشار هذه الصور عددًا صادمًا من النساء والفتيات في جميع أنحاء العالم”.
وقال في مقابلة مع وكالة أسوشيتد برس: “تُستخدم هذه الصور لتخويف النساء والفتيات وإذلالهن وتهديدهن. وكان التأثير على الضحايا مدمرًا لسمعتهن وصحتهن العقلية وفقدانهن الاستقلالية، وفي بعض الحالات، دفع بعضهن إلى الانتحار”.
تزعم الدعوى المرفوعة نيابة عن سكان كاليفورنيا أن الخدمات انتهكت العديد من قوانين الولاية ضد ممارسات الأعمال الاحتيالية، والمواد الإباحية غير المقبولة، والاعتداء الجنسي على الأطفال. ولكن قد يكون من الصعب تحديد من يدير التطبيقات، والتي لا تتوفر في متاجر تطبيقات الهواتف المحمولة ولكن لا يزال من السهل العثور عليها على الإنترنت.
وفي أواخر العام الماضي، اتصلت وكالة أسوشيتد برس بإحدى الخدمات، وزعمت عبر البريد الإلكتروني أن “رئيسها التنفيذي يقيم في مختلف أنحاء الولايات المتحدة” لكنها رفضت تقديم أي دليل أو الإجابة على أسئلة أخرى. ولم تذكر وكالة أسوشيتد برس التطبيقات التي رفعت ضدها دعاوى قضائية حتى لا تروج لها.
وقال تشيو “هناك عدد من المواقع التي لا نعرف في هذه اللحظة بالضبط من هم هؤلاء المشغلون ومن أين يعملون، ولكن لدينا أدوات التحقيق وسلطة الاستدعاء للتحقيق في ذلك”. “وسوف نستخدم بالتأكيد سلطاتنا في سياق هذه الدعوى القضائية”.
وتُستَخدَم العديد من الأدوات لإنشاء صور مزيفة واقعية “تعري” صور نساء بالغات يرتدين ملابس، بما في ذلك المشاهير، دون موافقتهن. ولكنها ظهرت أيضًا في المدارس في جميع أنحاء العالم، من أستراليا إلى بيفرلي هيلز في كاليفورنيا، وعادةً ما يقوم الأولاد بإنشاء صور لزميلات في الفصل يتم تداولها على نطاق واسع عبر وسائل التواصل الاجتماعي.
في واحدة من أولى القضايا التي حظيت بتغطية إعلامية واسعة النطاق في سبتمبر/أيلول الماضي في ألميندرالخو بإسبانيا، قالت طبيبة كانت ابنتها من بين مجموعة من الفتيات ضحايا هذه الجريمة العام الماضي وساعدت في لفت انتباه الرأي العام إلى هذه القضية إنها راضية عن شدة العقوبة التي تواجهها زميلاتها في الدراسة بعد قرار المحكمة في وقت سابق من هذا الصيف.
لكن الدكتورة مريم العديب منديري قالت في مقابلة يوم الجمعة: “إنها ليست مسؤولية المجتمع والتعليم والآباء والمدارس فحسب، بل مسؤولية عمالقة العصر الرقمي الذين يستفيدون من كل هذه القمامة”.
وأشادت بإجراءات سان فرانسيسكو لكنها قالت إن هناك حاجة إلى المزيد من الجهود، بما في ذلك من جانب الشركات الكبرى مثل منصات ميتا التي يقع مقرها في كاليفورنيا وتطبيقها الفرعي واتساب، الذي استُخدم لتداول الصور في إسبانيا.
وفي حين سعت المدارس ووكالات إنفاذ القانون إلى معاقبة أولئك الذين يصنعون ويشاركون مقاطع الفيديو المزيفة، واجهت السلطات صعوبة في معرفة ما يجب فعله بشأن الأدوات نفسها.
في يناير/كانون الثاني، أوضح الفرع التنفيذي للاتحاد الأوروبي في رسالة إلى عضو إسباني في البرلمان الأوروبي أن التطبيق المستخدم في ألميندراليجو “لا يبدو” أنه يقع ضمن نطاق العقوبات الشاملة التي يفرضها الاتحاد الأوروبي. قواعد جديدة لتعزيز السلامة على الإنترنت لأنه ليس منصة كبيرة بما فيه الكفاية.
وستتابع المنظمات التي كانت تتابع نمو مواد الاعتداء الجنسي على الأطفال التي تم إنشاؤها بواسطة الذكاء الاصطناعي قضية سان فرانسيسكو عن كثب.
وقالت إيميلي سليفر، مديرة السياسات في منظمة ثورن، وهي منظمة تعمل على مكافحة الاستغلال الجنسي للأطفال، إن الدعوى القضائية “لديها القدرة على إنشاء سابقة قانونية في هذا المجال”.
وقال باحث بجامعة ستانفورد إنه نظرا لوجود العديد من المتهمين خارج الولايات المتحدة، فسوف يكون من الصعب تقديمهم للعدالة.
وقالت ريانا فيفركورن من جامعة ستانفورد: “إن تشيو يواجه معركة صعبة مع هذه القضية، لكنه قد يتمكن من إيقاف تشغيل بعض المواقع إذا تجاهل المدعى عليهم الذين يديرونها الدعوى القضائية”.
وقالت إن ذلك قد يحدث إذا فازت المدينة افتراضيا في غيابهم وحصلت على أوامر تؤثر على مسجلي أسماء النطاقات ومضيفي الويب ومعالجات الدفع “التي من شأنها أن تغلق هذه المواقع فعليا حتى لو لم يظهر أصحابها أبدا في التقاضي”.
