قال باحثو الذكاء الاصطناعي يوم الجمعة إنهم حذفوا أكثر من 2000 رابط ويب لصور مشتبه بها لاعتداءات جنسية على الأطفال من قاعدة بيانات تستخدم لتدريب أدوات توليد الصور الشهيرة للذكاء الاصطناعي.
قاعدة بيانات البحث LAION عبارة عن فهرس ضخم للصور والتسميات التوضيحية عبر الإنترنت والتي كانت مصدرًا لصانعي الصور الرائدين في مجال الذكاء الاصطناعي مثل Stable Diffusion و Midjourney.
ولكن تقرير العام الماضي كشفت دراسة أجراها مرصد ستانفورد للإنترنت أن الفيديو يحتوي على روابط لصور جنسية صريحة للأطفال، مما ساهم في سهولة تمكن بعض أدوات الذكاء الاصطناعي من إنتاج صور مزيفة واقعية تصور الأطفال.
وقد دفع ذلك التقرير الصادر في ديسمبر/كانون الأول منظمة LAION، التي تعني شبكة الذكاء الاصطناعي المفتوحة واسعة النطاق غير الربحية، إلى إزالة مجموعة البيانات الخاصة بها على الفور. وبعد ثمانية أشهر، قالت منظمة LAION في منشور على مدونتها إنها عملت مع مجموعة مراقبة جامعة ستانفورد ومنظمات مكافحة الإساءة في كندا والمملكة المتحدة لإصلاح المشكلة وإصدار قاعدة بيانات منقحة لأبحاث الذكاء الاصطناعي في المستقبل.
وأشاد الباحث في جامعة ستانفورد ديفيد ثيل، مؤلف التقرير الصادر في ديسمبر/كانون الأول، بمشروع LAION لتحقيق تحسينات كبيرة، لكنه قال إن الخطوة التالية هي سحب “النماذج الملوثة” من التوزيع، والتي لا تزال قادرة على إنتاج صور إساءة معاملة الأطفال.
ظلت إحدى الأدوات المستندة إلى LAION والتي حددتها جامعة ستانفورد باعتبارها “النموذج الأكثر شعبية لتوليد الصور الصريحة” – وهي نسخة أقدم وأكثر تنقيحًا من Stable Diffusion – في متناول اليد بسهولة حتى يوم الخميس، عندما أزالتها شركة Runway ML التي تتخذ من نيويورك مقراً لها من مستودع نماذج الذكاء الاصطناعي Hugging Face. قالت Runway في بيان يوم الجمعة إنها “إلغاء مخطط لنماذج البحث والرموز التي لم يتم صيانتها بنشاط”.
وتأتي النسخة المنقحة من قاعدة بيانات LAION في الوقت الذي تقوم فيه الحكومات في جميع أنحاء العالم بإلقاء نظرة فاحصة على كيفية استخدام بعض الأدوات التقنية لإنشاء أو توزيع صور غير قانونية للأطفال.
رفع محامي مدينة سان فرانسيسكو في وقت سابق من هذا الشهر دعوى قضائية سعياً لإغلاق مجموعة من المواقع التي تمكن من إنشاء صور عارية للنساء والفتيات تم إنشاؤها بواسطة الذكاء الاصطناعي. التوزيع المزعوم لصور الاعتداء الجنسي على الأطفال على تطبيق المراسلة Telegram هو جزء من ما بقيادة الفرنسية السلطات لتوجيه الاتهامات يوم الأربعاء ضد مؤسس المنصة والرئيس التنفيذي لها، بافيل دوروف.
قال ديفيد إيفان هاريس، الباحث في جامعة كاليفورنيا في بيركلي، والذي تواصل مؤخرًا مع مجلة Runway متسائلاً عن سبب بقاء برنامج توليد الصور بالذكاء الاصطناعي متاحًا للعامة: “إن اعتقال دوروف يشير إلى تغيير كبير حقًا في صناعة التكنولوجيا بأكملها حيث يمكن تحميل مؤسسي هذه المنصات المسؤولية الشخصية”. تم حذفه بعد أيام.
