تتحرك صناعة التكنولوجيا بسرعة وتكسر الأمور مرة أخرى – وهذه المرة هي الحقيقة المشتركة للبشرية والتحكم في شبهنا قبل الموت وبعده – بفضل منصات توليد الصور بالذكاء الاصطناعي مثل OpenAI's Sora 2.
تم تصميم فيديو Sora النموذجي، الذي تم إنشاؤه على تطبيق OpenAI وانتشر على TikTok وInstagram وX وFacebook، ليكون مسليًا بما يكفي لتتمكن من النقر عليه ومشاركته. يمكن أن تكون موسيقى الراب للملكة إليزابيث الثانية أو أي شيء أكثر عادية وقابل للتصديق. أحد أنواع Sora الشائعة هو لقطات كاميرا جرس الباب المزيفة التي تلتقط شيئًا غريبًا بعض الشيء – على سبيل المثال، أفعى أفعى في الشرفة أو تمساح يقترب من طفل غير منزعج – وتنتهي بصدمة خفيفة، مثل صراخ الجدة وهي تضرب الحيوان بالمكنسة.
لكن مجموعة متزايدة من جماعات المناصرة والأكاديميين والخبراء تدق ناقوس الخطر بشأن مخاطر السماح للأشخاص بإنشاء مقاطع فيديو تعمل بالذكاء الاصطناعي على أي شيء يمكنهم كتابته في رسالة مطالبة، مما يؤدي إلى انتشار الصور غير التوافقية والتزييف العميق الواقعي في بحر من “الذكاء الاصطناعي المنخفض” الأقل ضررًا. قامت شركة OpenAI باتخاذ إجراءات صارمة ضد إبداعات الذكاء الاصطناعي لشخصيات عامة – من بينهم مايكل جاكسون، ومارتن لوثر كينغ جونيور، ومستر روجرز – وهم يقومون بأشياء غريبة، ولكن فقط بعد احتجاجات من العقارات العائلية واتحاد الممثلين.
تطالب منظمة Public Citizen غير الربحية الآن شركة OpenAI بسحب Sora 2 من الجمهور، وكتبت في رسالة يوم الثلاثاء إلى الشركة والرئيس التنفيذي Sam Altman أن الإصدار المتسرع للتطبيق حتى يمكن إطلاقه قبل المنافسين يُظهر “نمطًا ثابتًا وخطيرًا من اندفاع OpenAI إلى السوق بمنتج إما غير آمن بطبيعته أو يفتقر إلى حواجز الحماية اللازمة.” وتقول الرسالة إن سورا 2 يُظهر “التجاهل المتهور” لسلامة المنتجات، فضلاً عن حقوق الناس في ما يشبههم واستقرار الديمقراطية. كما أرسلت المجموعة الرسالة إلى الكونجرس الأمريكي.
لم يستجب OpenAI على الفور لطلب التعليق يوم الثلاثاء.
قال JB Branch، المدافع عن سياسة التكنولوجيا في Public Citizen، في مقابلة: “إن أكبر ما يقلقنا هو التهديد المحتمل للديمقراطية”. “أعتقد أننا ندخل عالماً لا يستطيع فيه الناس الثقة حقاً بما يرونه. وقد بدأنا نرى استراتيجيات في السياسة حيث الصورة الأولى، أول فيديو يتم نشره، هو ما يتذكره الناس.”
ويرى برانش، مؤلف رسالة الثلاثاء، أيضًا مخاوف أوسع نطاقًا بشأن خصوصية الأشخاص والتي تؤثر بشكل غير متناسب على الفئات الضعيفة من السكان عبر الإنترنت.
تحظر شركة OpenAI العري، لكن برانش قال إن “النساء يرون أنفسهن يتعرضن للمضايقات عبر الإنترنت” بطرق أخرى، مثل المحتوى المتخصص الذي يسمح له بتجاوز قيود التطبيقات. منفذ الأخبار 404 وسائل الإعلام يوم الجمعة تم الإبلاغ عن طوفان من مقاطع الفيديو التي صنعها سورا لنساء يتم خنقهن.
قدمت OpenAI تطبيق Sora الجديد على أجهزة iPhone منذ أكثر من شهر. تم إطلاقه على هواتف أندرويد الأسبوع الماضي في الولايات المتحدة وكندا والعديد من الدول الآسيوية، بما في ذلك اليابان وكوريا الجنوبية.
الكثير من أقوى ردود الفعل جاءت من هوليوود وغيرها من المصالح الترفيهية، بما في ذلك صناعة المانغا اليابانية. أعلنت OpenAI عن أول تغييرات كبيرة لها بعد أيام قليلة من الإصدار، قائلة إن “الإفراط في الاعتدال أمر محبط للغاية” للمستخدمين ولكن من المهم أن تكون محافظًا “بينما لا يزال العالم يتكيف مع هذه التكنولوجيا الجديدة”.
وأعقب ذلك اتفاقيات أُعلن عنها علنًا مع عائلة مارتن لوثر كينغ جونيور في 16 أكتوبر/تشرين الأول، لمنع “التصوير غير المحترم” لزعيم الحقوق المدنية بينما كانت الشركة تعمل على توفير ضمانات أفضل، واتفاقيات أخرى في 20 أكتوبر/تشرين الأول مع ممثل “Breaking Bad” براين كرانستون، واتحاد SAG-AFTRA ووكالات المواهب.
قال برانش: “كل هذا جيد إذا كنت مشهوراً”. “إنه مجرد نمط لدى OpenAI حيث يكونون على استعداد للرد على غضب عدد قليل جدًا من السكان. إنهم على استعداد لإصدار شيء ما والاعتذار بعد ذلك. لكن الكثير من هذه المشكلات هي اختيارات تصميم يمكنهم اتخاذها قبل الإصدار.”
وقد واجهت شركة OpenAI شكاوى مماثلة بشأن منتجها الرئيسي ChatGPT. رفع سبع دعاوى قضائية جديدة تطالب محاكم كاليفورنيا الأسبوع الماضي بروبوت الدردشة دفع الناس إلى الانتحار والأوهام الضارة حتى عندما لم يكن لديهم مشاكل سابقة في الصحة العقلية. تم رفع الدعاوى القضائية نيابة عن ستة بالغين ومراهق واحد من قبل مركز قانون ضحايا وسائل التواصل الاجتماعي ومشروع قانون العدالة التقنية، وتزعم الدعاوى القضائية أن OpenAI أطلقت عمدًا GPT-4o قبل الأوان في العام الماضي، على الرغم من التحذيرات الداخلية من أنه كان متملقًا بشكل خطير ومتلاعبًا نفسيًا. وقد توفي أربعة من الضحايا منتحرين.
ولم يشارك Public Citizen في الدعاوى القضائية، لكن برانش قال إنه يرى أوجه تشابه في إطلاق سراح سورا المتسرع.
وقال إنهم “يضعون الدواسة على الأرض دون اعتبار للأضرار. الكثير من هذا يبدو متوقعا. لكنهم يفضلون الحصول على منتج هناك، وجعل الناس يقومون بتنزيله، والحصول على أشخاص مدمنين عليه بدلا من القيام بالشيء الصحيح واختبار هذه الأشياء مسبقا والقلق بشأن محنة المستخدمين العاديين”.
أمضت OpenAI الأسبوع الماضي في الرد على شكاوى من جمعية تجارية يابانية تمثل رسامي الرسوم المتحركة المشهورين مثل هاياو ميازاكي في ستوديو جيبلي وصانعي ألعاب الفيديو مثل Bandai Namco وSquare Enix. قالت OpenAI إن العديد من محبي الأنيمي يرغبون في التفاعل مع شخصياتهم المفضلة، لكن الشركة وضعت أيضًا حواجز حماية لمنع إنشاء شخصيات معروفة دون موافقة الأشخاص الذين يمتلكون حقوق الطبع والنشر.
وقالت OpenAI في بيان حول رسالة المجموعة التجارية الأسبوع الماضي: “نحن نتعامل بشكل مباشر مع الاستوديوهات وأصحاب الحقوق، ونستمع إلى التعليقات، ونتعلم من كيفية استخدام الأشخاص لـ Sora 2، بما في ذلك في اليابان، حيث تحظى الصناعات الثقافية والإبداعية بتقدير كبير”.