تقوم أداة فيديو AI من Elon Musk's Xai بإنتاج Deepfakes عارية من المشاهير-بما في ذلك Taylor Swift-مع الحد الأدنى من ضمانات ، مما يرفع الإنذارات على معتدلة محتوى الذكاء الاصطناعي والصور غير التوافقية.
الميزة ، التي تسمى Grok Imagine ، تم إطلاقها يوم الثلاثاء في تطبيق Grok لنظام iOS و Android. يتيح للمستخدمين تحريك الصور التي تم إنشاؤها من الذكاء الاصطناعى في مقاطع فيديو قصيرة تحت أربعة مسبقات على النمط: طبيعيو هزارو مخصص، و حار. الاختيار حار يمكن أن تخلق مقاطع عارية أو موحية جنسيًا ؛ وفق حرية، قامت الأداة تلقائيًا بإنشاء مقطع فيديو لخلع خلع ملابس سريع يشبه المراسل. بعد أن أصبحت Swift Deepfakes عامة ، يوم الأربعاء ، تقيد XAI القدرة على توليد إصدارات حار من نجم البوب.
ربما أوضحت النسخة السابقة غير الخاضعة للرقابة من مولد الفيديو شعبيتها الفورية: قال Musk إن تخيل الاستخدام قد نما أكثر من 50 ٪ ، واصفاها بأنها “مفرطة فيروسية” ، مع 20 مليون صورة تم إنشاؤها يوم الثلاثاء وحده.
يجب أن يتمكن جميع المشتركين المتميزين من الوصول إلى @grok تخيل لإنشاء صور وإنشاء فيديو فائقة في ساعة واحدة
– Elon Musk (eLonMusk) 4 أغسطس ، 2025
على عكس منصات مثل Google's Veo 3 و Openai's Sora – والتي تشمل ضمانات لمنع محتوى البالغين وشبهات المشاهير – يبدو أن تخيلًا يتجنب تلك الحماية ، على الرغم من سياسات Xai الخاصة. تشير شروط الشركة إلى أن المستخدمين قد لا يصورون “أوجه الشبه للأشخاص بطريقة إباحية”.
لم يعالج Musk بعد الجدل ، الذي يأتي بعد عام من استهداف AI Deepfakes Swift خلال موسم الانتخابات الأمريكية 2024.
في أغسطس 2024 ، بدا أن Deepfake Photos تُظهر سويفت مؤيدًا للمرشح آنذاك دونالد ترامب. أدى الحادث إلى إدانة واسعة النطاق وتجديد الدعوات لتنظيم الذكاء الاصطناعي. أيد سويفت في وقت لاحق خصم ترامب ، نائب الرئيس السابق كامالا هاريس.
في مايو ، أقر الكونغرس “Take It Down Act” ، مما يمنح ضحايا الصور الحميمة غير العادية عملية رسمية لطلب عمليات الإزالة من المنصات. لا يزال من غير الواضح ما إذا كانت XAI ستقيد قدرة Grok على توليد محتوى صريح يضم أشخاصًا حقيقيين.
هذا هو أحدث kerfluffle الذي يتضمن أدوات إطلاق XAI التي لم يتم فحصها بشكل صحيح. في يوليو ، ذهب Grok على tirade عنصري ، واصفا نفسه “Mechahitler”. بدأ chatbot في الإدلاء ببيانات معادية للسامية ومطالبات الأيديولوجية المنتشرة ، والدعاية ، والقوالب النمطية المضادة للأبيض في أفلام هوليوود.
تأتي أخبار قدرة Grok على توليد مقاطع فيديو عارية لـ Swift بعد يوم من ضرب قاضٍ فيدرالي لقانون في كاليفورنيا يقيد العميق التي تم إنشاؤها من الذكاء الاصطناعى خلال الانتخابات.