- تتصارع شركة التكنولوجيا الصوتية AI ElevenLabs مع التزييف العميق.
- ورغم أن هذه التكنولوجيا مبتكرة، إلا أنها تنطوي على إمكانية إساءة استخدامها، مما يثير مخاوف المشرعين.
- قال الرئيس التنفيذي لشركة ElevenLabs إن وضع العلامات المائية الرقمية على الأصوات الاصطناعية يعد حلاً.
تتصارع الشركات التي تقف في طليعة تكنولوجيا الصوت المدعمة بالذكاء الاصطناعي حول كيفية تنظيم التزييف العميق دون خنق الابتكار.
“ستكون لعبة القط والفأر،” يقول ماتي ستانيزيفسكي، المؤسس المشارك والرئيس التنفيذي لشركة ElevenLabs، قال الأطلسي.
أحد عشر مختبرًا – والتي قفز إلى تقييم 1.1 مليار دولار بعد إطلاقه في الإصدار التجريبي العام الماضي – يستخدم الذكاء الاصطناعي لإنشاء مقاطع صوتية مقنعة. يتضمن ذلك التعليقات الصوتية لتحويل النص إلى كلام، ودبلجة الصوت إلى 29 لغة، واستنساخ الأصوات. تدعي الشركة أن مستخدميها أنتجوا أكثر من 100 عام من الصوت في العام الماضي.
ومع ذلك، يشعر المشرعون بالقلق من أن التكنولوجيا لديها إمكانية خطيرة لإساءة الاستخدام.
ارتبط التقدم في الذكاء الاصطناعي بارتفاع عمليات الاحتيال الهاتفي الفائقة، حيث يقدم المحتالون المحتالون أنفسهم على أنهم مهتمون بالحب، أو أفراد من الأسرة، أو مسؤولون حكوميون. رئيس الذكاء الاصطناعي في بايدن، حتى أن بروس ريد قال “استنساخ الصوت” هو الشيء الوحيد الذي يبقيه مستيقظا في الليل.
وفي العام الماضي، استغل مستخدمو 4chan الأداة من ElevenLabs لإنشاء مقاطع مزيفة عميقة للمشاهير الذين ينشرون محتوى عنصريًا ومعاديًا للمتحولين جنسيًا، بحسب نائب.
لكن ستانيشفسكي مثالي.
ويرى أن تقنية ElevenLabs تساهم في عالم حيث لا يزال بإمكان المرضى الذين يعانون من أمراض التنكس العصبي مثل التصلب الجانبي الضموري التواصل بصوتهم بعد أن يفقدوا القدرة على التحدث. كما أن لديها القدرة على أن تكون أداة لمساعدة الناس على التواصل عبر الثقافات واللغات.
عمدة نيويورك كان إريك آدامز يقوم بإجراء مكالمات آلية بلغات الماندرين واليديشية والكريولية الهايتية باستخدام تقنية ElevenLabs، وقال إنه تمكن من الوصول إلى المزيد من سكان المدينة غير الناطقين باللغة الإنجليزية.
وللاستفادة من هذه الإمكانية مع منع الاحتيال، قال ستانيسزويسكي إنه يجب أن يكون المستخدمون قادرين على التعرف على الأصوات التي يولدها الذكاء الاصطناعي من الأصوات البشرية. وقال ستانيشفسكي لصحيفة أتلانتيك إن “الحل الحقيقي” هو وضع علامة مائية رقمية على الأصوات الاصطناعية حتى يتمكن البشر من التمييز بين الأصوات الحقيقية والمزيفة.
تعمل الشركة على تطوير التكنولوجيا، لكنها لن تكون فعالة إلا بالتعاون مع الشركات الأخرى. وقعت ElevenLabs اتفاقية مع العديد من شركات الذكاء الاصطناعي الأخرى، بما في ذلك OpenAI وAnthropic وGoogle وMeta لمكافحة التزييف العميق في انتخابات عام 2024.
لم تستجب ElevenLabs على الفور لطلب التعليق من Business Insider.
