أنتجت شركة Sora 2 من OpenAI مقاطع فيديو واقعية تنشر ادعاءات كاذبة بنسبة 80% من الوقت عندما طلب منها الباحثون ذلك، وذلك وفقًا لما ذكرته إحدى الدراسات. تحليل نيوز جارد نشرت هذا الأسبوع.
نجحت ستة عشر رسالة من أصل عشرين في توليد معلومات مضللة، بما في ذلك خمس روايات نشأت عن عمليات التضليل الروسية.
أنشأ التطبيق لقطات مزيفة لمسؤول انتخابي في مولدوفا وهو يدمر بطاقات الاقتراع المؤيدة لروسيا، ولطفل صغير اعتقله ضباط الهجرة الأمريكيون، ومتحدث باسم شركة كوكا كولا يعلن أن الشركة لن ترعى مباراة السوبر بول.
لم يحدث شيء من ذلك. بدا كل ذلك حقيقيًا بدرجة كافية لخداع أي شخص يقوم بالتمرير بسرعة.
وجد باحثو NewsGuard أن إنشاء مقاطع الفيديو يستغرق دقائق ولا يتطلب أي خبرة فنية. حتى أنهم كشفوا أن العلامة المائية لسورا يمكن إزالتها بسهولة، مما يجعل من السهل تمرير مقطع فيديو مزيف بشكل حقيقي.
كما أن مستوى الواقعية يجعل انتشار المعلومات الخاطئة أسهل.
وأوضح Newsguard أن “بعض مقاطع الفيديو التي أنشأها Sora كانت أكثر إقناعًا من المنشور الأصلي الذي غذى الادعاء الكاذب الفيروسي”. “على سبيل المثال، يبدو مقطع الفيديو الذي أنشأه سورا لطفل صغير محتجز لدى إدارة الهجرة والجمارك أكثر واقعية من الصورة المشوشة والمقتطعة للطفل الصغير المفترض والتي رافقت في الأصل الادعاء الكاذب”.
يمكن مشاهدة هذا الفيديو هنا.
تصل هذه النتائج في الوقت الذي تواجه فيه OpenAI أزمة مختلفة ولكنها ذات صلة تتضمن التزييف العميق لمارتن لوثر كينغ جونيور وشخصيات تاريخية أخرى – وهي فوضى أجبرت الشركة على عكس سياسات متعددة في الأسابيع الثلاثة منذ إطلاق Sora، والانتقال من السماح بالتزييف العميق إلى نموذج الاشتراك لأصحاب الحقوق. حظر شخصيات محددة ومن ثم موافقة المشاهير وحماية الصوت بعد ذلك العمل مع SAG-AFTRA.
انفجر موقف MLK بعد أن أنشأ المستخدمون مقاطع فيديو واقعية للغاية تظهر زعيم الحقوق المدنية وهو يسرق من متاجر البقالة، ويهرب من الشرطة، ويديم الصور النمطية العنصرية. ووصفت ابنته بيرنيس كينج المحتوى بأنه “مهين” و”مفكك” على وسائل التواصل الاجتماعي.
أعلنت شركة OpenAI وشركة King Estate يوم الخميس أنهما تحظران مقاطع فيديو الذكاء الاصطناعي الخاصة بـ King بينما تعمل الشركة على “تعزيز حواجز الحماية للشخصيات التاريخية”.
ويتكرر هذا النمط عبر العشرات من الشخصيات العامة. وكتبت زيلدا، ابنة روبن ويليامز، على إنستغرام: “من فضلك، توقف عن إرسال مقاطع فيديو لأبي مدعومة بالذكاء الاصطناعي. هذا ليس ما يريده”.
تقول ابنة جورج كارلين، كيلي كارلين-ماكول، إنها تتلقى رسائل بريد إلكتروني يومية حول مقاطع فيديو الذكاء الاصطناعي باستخدام صورة والدها. ال واشنطن بوست ذكرت مقاطع ملفقة لمالكولم إكس وهو يلقي نكاتًا فظة ويتصارع مع كينغ.
كريستيليا غارسيا، أستاذة قانون الملكية الفكرية في جامعة جورج تاون للقانون، قال الإذاعة الوطنية العامة أن النهج التفاعلي لـ OpenAI يناسب نمط الشركة “طلب المغفرة، وليس الإذن”.
المنطقة الرمادية القانونية لا تساعد العائلات كثيرًا. عادةً لا تنطبق قوانين التشهير التقليدية على الأفراد المتوفين، مما يترك لممثلي العقارات خيارات محدودة بخلاف طلب عمليات الإزالة.
زاوية المعلومات الخاطئة تجعل كل هذا أسوأ. اعترف OpenAI بالمخاطر الموجودة في الوثائق المصاحب لإصدار Sora، مشيرًا إلى أن “قدرات Sora 2 المتقدمة تتطلب النظر في المخاطر المحتملة الجديدة، بما في ذلك الاستخدام غير التوافقي للتشابه أو تضليل الأجيال.”
دافع ألتمان عن استراتيجية “البناء في الأماكن العامة” الخاصة بشركة OpenAI في منشور بالمدونة، وكتب أن الشركة بحاجة إلى تجنب الحرمان التنافسي. “من فضلك توقع معدل تغيير مرتفع جدًا منا؛ فهذا يذكرني بالأيام الأولى لـ ChatGPT. سنتخذ بعض القرارات الجيدة وبعض الأخطاء، ولكننا سنتلقى التعليقات ونحاول إصلاح الأخطاء بسرعة كبيرة.”
بالنسبة لعائلات مثل عائلة كينغز، تحمل هذه الأخطاء عواقب تتجاوز دورات تكرار المنتج. أصدرت ملكية King وOpenAI بيانًا مشتركًا قائلًا إنهما يعملان معًا “لمعالجة كيفية تمثيل صورة الدكتور مارتن لوثر كينغ جونيور في أجيال سورا”.
شكرت OpenAI بيرنيس كينغ على تواصلها ونسبت الفضل إلى جون هوب براينت ومجلس أخلاقيات الذكاء الاصطناعي لتسهيل المناقشات. وفي الوقت نفسه، يستمر التطبيق في استضافة مقاطع فيديو لـ SpongeBob وSouth Park وPokémon وشخصيات أخرى محمية بحقوق الطبع والنشر.
أرسلت شركة Disney خطابًا تفيد بأنها لم تسمح مطلقًا لشركة OpenAI بنسخ أعمالها أو توزيعها أو عرضها، وأنها ليست ملزمة بـ “إلغاء الاشتراك” للحفاظ على حقوق الطبع والنشر.
يعكس هذا الجدل نهج OpenAI السابق مع ChatGPT، الذي تدرب على المحتوى المحمي بحقوق الطبع والنشر قبل إبرام صفقات ترخيص مع الناشرين في النهاية. وقد أدت هذه الاستراتيجية بالفعل إلى دعاوى قضائية متعددة. يمكن أن يضيف وضع سورا المزيد.