كانت أولغا لويك مستيقظة بالكاد في صباح منتصف الشتاء عندما قرأت رسالة غامضة على موقع إنستغرام.
“هل تتحدث أي لغة الماندرين؟” تقرأ باللغة الإنجليزية.
وكانت لويك قد تلقت رسائل مماثلة في الأسابيع السابقة من المعجبين بقناتها الصغيرة على YouTube، حيث تقوم بتحميل مقاطع فيديو التمكين الذاتي إلى ما يزيد قليلاً عن 15000 مشترك.
ومن المثير للارتباك أن العديد من تلك التعليقات أشادت أيضًا بإجادتها للغة الصينية.
وقالت الطالبة البالغة من العمر 20 عاماً لموقع Business Insider من شقتها في ميونيخ، إن لويك لا تتحدث اللغة الصينية على الإطلاق.
لكن هذه الرسالة الأخيرة – التي أُرسلت في أواخر يناير/كانون الثاني – كانت بمثابة تحذير، وليست مجاملة. وأضافت أنه ربما يحاول شخص ما انتحال شخصيتك.
وتضمنت تلك الرسالة رابطًا لمقطع فيديو على موقع Xiaohongshu، وهي منصة تواصل اجتماعي تكتسب زخمًا سريعًا في الصين. وبدا أن المقطع يظهر لويك وهو يتحدث إلى الكاميرا باللغة الصينية بينما ظهرت صور الكرملين والزعيم الروسي فلاديمير بوتين على الشاشة.
قال لويك: “في البداية، شعرت أنها مجرد خدعة مضحكة. ولكن بعد ذلك بدأت في ترجمتها”. وتحدثت المرأة التي ظهرت في الفيديو، وهي تحمل وجهها، بشكل متوهج عن العلاقات الصينية الروسية، وتتحسر على العقوبات المفروضة على موسكو بينما كانت تبيع منتجات روسية على صفحة أحد المتاجر.
بالنسبة إلى لويك، وهو أوكراني، كان الأمر شائنًا. وقالت: “شعرت بالانتهاك لأن هذه أشياء لن أقولها أبدًا في حياتي”.
لقد تم توثيق إساءة استخدام تقنية التزييف العميق، وهي تقنية سريعة التطور تستخدم الذكاء الاصطناعي لتقليد صورة الشخص افتراضيًا، منذ سنوات.
لكن التقاطع بين الوجوه الغربية والحسابات الصينية يمثل طبقة جديدة من التعقيد، لأن النظام البيئي لوسائل الإعلام الاجتماعية في الصين معزول إلى حد كبير عن العالم.
Deepfakes وراء جدار الحماية العظيم
بالنسبة لمستخدمي الإنترنت في الصين الذين يقدر عددهم بنحو 1.08 مليار شخص، يتم حظر موقعي YouTube وInstagram واستبدالهما ببدائل خاضعة للإشراف للمنصات الدولية. هناك WeChat لـ WhatsApp وFacebook، وWeibo لـ X، وXiaohongshu كمزيج من TikTok وInstagram.
على هذه المنصات الصينية، غالبًا ما لا يتم اكتشاف التزييف العميق للنساء غير الصينيات نظرًا لأن المشاهدين قد لا يتعرفون بسهولة على الشخص الأصلي. وفي الوقت نفسه، من غير المرجح أن يكتشف المبدع أن وجهه قد سُرق لأنه، بدوره، لا يصل عادةً إلى المنصات الصينية التي تحدث فيها السرقة.
وقال ليو سيوي، أستاذ علوم الكمبيوتر الذي يدير مختبر الطب الشرعي للوسائط في جامعة كاليفورنيا: “في بيئة وسائل التواصل الاجتماعي “العالم المفتوح”، عندما يظهر التزييف العميق لشخص ما، يمكننا بسهولة إثبات أن هذا غير حقيقي لأنه يمكننا العثور على الشخص الأصلي”. الجامعة في بوفالو. “ولكن داخل الصين، لأنه ليس من السهل على المستخدمين الصينيين تجاوز جدار الحماية العظيم، فلن يتمكنوا من القيام بهذا التحقق المتبادل.”
قال ليو وباحث آخر في مجال الذكاء الاصطناعي، هايبينج لو من جامعة سانتا كلارا، لـ BI إنهما لاحظا خلال الأشهر الستة الماضية ما يشتبهان في أنها صور مزيفة أخرى للنساء على منصات صينية مثل Douyin، النسخة الصينية من TikTok.
وقالوا إن قضية لويك تظهر أن بعض هذه التزييفات العميقة على الأقل لم تتم برضاهم.
تم وصف الحساب الذي قام بتشغيل التزييف العميق لـ Loiek على Xiaohongshu بأنه ناتاشا، وهي امرأة روسية تبلغ من العمر 31 عامًا تعيش في مقاطعة هيلونغجيانغ الصينية. كان للحساب 140 ألف متابع، أي أكثر من صفحة Loeik الفعلية. باعت صفحة متجر تابعة للحساب حلوى روسية مقابل 3.60 دولار لكل علبة.
وتضمنت عشرات مقاطع الفيديو على صفحة “ناتاشا” علامات تشير إلى التلاعب الرقمي. على سبيل المثال، في مقاطع الفيديو هذه، لا تتم مزامنة شفاه Loiek دائمًا مع التعليق الصوتي، الذي يكون بلكنة البر الرئيسي الصيني. هناك أوقات يفشل فيها البرنامج ويكون صوتها ثابتًا. كما أن جودة الصوت قريبة من المثالية أيضًا، مع عدم وجود أصوات تنفس أو ضوضاء في الخلفية، وهو ما قال الباحثان إنه علامة حمراء.
قال لويك: “كان الأمر مخيفًا للغاية لأنني كنت أرى وجهي يتحدث حرفيًا عن أشياء لن أتغاضى عنها أبدًا”.
من امرأة واحدة يأتي عشرات الروس
لويك، التي تدرس علم الأعصاب الإدراكي في جامعة بنسلفانيا ولكنها الآن في ألمانيا لتلقي التدريب، غير متأكدة من سبب اختيار حسابات شياوهونغشو لها.
لكن من استهدف لويك وجد قناتها الناشئة على اليوتيوب في غضون أسابيع.
بدأت الطالبة قناتها للتمكين الذاتي في نوفمبر ونشرت حتى الآن ثمانية مقاطع فيديو وسبعة فيديوهات قصيرة على YouTube.
وفي مقطع فيديو نشرته على موقع يوتيوب في أواخر يناير/كانون الثاني، طلبت لويك من متابعيها المساعدة في الإبلاغ عن حساب ناتاشا. تمت إزالة الخدعة من Xiaohongshu بحلول 25 فبراير.
وبينما اختفت “ناتاشا”، ظهرت حسابات أخرى تحمل وجه لويك أيضًا. وقالت Loiek إنها اكتشفت حوالي 30 حسابًا آخر على Xiaohongshu تستخدم وجهها وتدعي أنها روسية.
لقد رأى BI بعضًا منهم. هناك أبريل آني، المرأة الروسية التي انتقلت إلى الصين قبل ثماني سنوات؛ صوفيا إيلينا، التي تتحدث عن رغبة السيدات الروسيات في الزواج من رجال صينيين؛ وكاتيوشا الذي يشيد بالشراكة بين الصين وروسيا. جميعهم يستخدمون التزييف العميق لـ Loiek.
تفعل التزييفات العميقة لـ Xiaohongshu لمستخدمي YouTube الآخرين نفس الشيء. يبدو أن الجناة يستهدفون المبدعات اللاتي يقومن بتحميل محتوى يسهل الوصول إليه لأنفسهن ولكنهن لسن من المشاهير.
ليس من الصعب العثور على هذه الحسابات، حيث يقترح تطبيق Xiaohongshu غالبًا صفحات مشابهة لتلك التي تشاهدها بالفعل. وفي غضون 10 دقائق تقريبًا، عثرت BI على مقاطع فيديو مزيفة لخمس نساء قوقازيات على الأقل في Xiaohongshu. في كل مقاطع الفيديو هذه، تملق المزيفون العميقون روسيا والصين وأشادوا بها.
لانا بلاكلي هي واحدة منهم. بلاكلي هي منشئة محتوى مقيمة في ستوكهولم ولديها 1.6 مليون مشترك على YouTube، حيث تناقش موضوعات مثل التأمل الذاتي وإدارة العلاقات. لكن هناك نسخة صينية واحدة على الأقل من بلاكلي لديها أجندة مختلفة لمشاركتها على Xiaohongshu.
تقول نسخة مزيفة من بلاكلي باللغة الصينية في مقطع فيديو شاهدته BI: “عندما كنا صغارًا، تعلمنا في المدرسة أن الصين وروسيا شقيقان في المصاعب”.
تقوم إليزابيث فيليبس، المقيمة في لندن، والتي لديها 950 ألف مشترك على موقع يوتيوب، بتحميل مقاطع فيديو تغطي نصائح في علم الأعصاب وتحسين الشخصية. على موقع Xiaohongshu، نشر أحد الحسابات صورًا مزيفة لها وهي تناقش العلاقات الدولية للصين.
وقالت نسخة مزيفة من فيليبس في أحد مقاطع الفيديو: “الصين لديها ثلاثة أصدقاء جيدين. الأول هو الأخ الطيب باكستان، وهناك الأخ الجيد صربيا، وأخيرًا الأخوين الطيبين الصين وروسيا”.
رفضت بلاكلي من خلال وكالة إدارة المواهب الخاصة بها التعليق. لم تستجب شركة Filips لطلبات التعليق التي أرسلها BI.
بالنسبة لعشرات مقاطع الفيديو التي استعرضتها BI، لم يعلق أي مستخدم صيني مع الاشتباه في أنه تم التلاعب بالمقاطع.
وقال ليو: “الرسائل تتفق مع ما تعرضوا له بالفعل، وهو أن الصين عظيمة”. “وأعتقد علاوة على ذلك أن هناك شابة جميلة من أصول أجنبية تتحدث الصينية. وهذا يزيد من عامل الفضول ويجذب المشاهدين الصينيين.”
عندما سئل متحدث باسم Xiaohongshu عن التزييف العميق، قال لـ BI: “مع استمرار تطور الذكاء الاصطناعي، يشجع Xiaohongshu ابتكاراته ويقدرها. وفي الوقت نفسه، ظهرت العديد من المخاطر بسبب المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على منصات الإنترنت.”
وأشاروا إلى إرشادات المنصة، التي تحظر انتحال الشخصية ونشر محتوى لا “يعتمد على تجارب حقيقية”.
الأصول لا تزال غامضة
على الرغم من نجاح لويك في إغلاق حساب ناتاشا، إلا أن الأشخاص الذين أنشأوا مقاطع الفيديو هذه لا يزالون غامضين.
حسابات جديدة تزعم أنها تظهر على سطحها في بعض الأحيان. بدأ أحد الحسابات التي استخدمت وجهها كصورة للملف الشخصي في تحميل مقاطع فيديو للقطط.
لقد تم الإبلاغ على نطاق واسع أن الذكاء الاصطناعي غالبًا ما يكون أداة للدعاية، حتى خارج الصين. واتهمت وكالات الاستخبارات الأمريكية كلاً من روسيا والصين باستخدام أساليب خادعة للتأثير على الرأي العام، وأشارت إلى الذكاء الاصطناعي باعتباره مصدر قلق رئيسي.
لكن ليو قال إنه من غير الواضح ما إذا كانت هذه التزييفات العميقة جزءًا من عملية حكومية أو جهد يبذله طرف ثالث، مثل مجموعة مؤيدة لروسيا أو مؤيدة للصين.
ولم تستجب وزارتا الخارجية الصينية والروسية لطلبات التعليق التي أرسلها مكتب التحقيقات الدولي.
وقال فنسنت كونيتزر، رئيس المشاركة الفنية للذكاء الاصطناعي في معهد أخلاقيات الذكاء الاصطناعي بجامعة أكسفورد، إن الجناة قد يكونون ببساطة يقومون بتجربة التزييف العميق في الصين.
“دعونا نرى ما يمكننا القيام به. دعونا نرى كيف يتفاعل الناس. هل يشتريه الناس؟” قال كونيتسر عن العقلية المحتملة وراء إنشاء مقاطع الفيديو. “في بعض الأحيان قد يكون هناك جانب من جوانب “دعونا نرى كيف يتفاعل الناس معها” حتى عندما يتمكنوا من التعرف بوضوح على أنها مزيفة.”
لا توجد خيارات جيدة لـ Loiek
ويقول خبراء الذكاء الاصطناعي مثل ليو إن لويك تتخذ أفضل مسار عمل متاح من خلال لفت الانتباه إلى التزييف العميق ومطالبة متابعيها بالإبلاغ عنها.
وقالوا إن هناك القليل من الخيارات الأخرى المتاحة لها بشكل واقعي.
لو، أستاذ تحليل المعلومات في جامعة سانتا كلارا، هو باحث آخر إلى جانب ليو الذي شاهد مؤخرًا محتوى مزيفًا عميقًا مثل Loiek على وسائل التواصل الاجتماعي الصينية. وأخبر BI أنه حاول إبلاغ السلطات الصينية عنهم.
وقال إن تقديم تقرير عن جرائم الإنترنت يتطلب عادةً بطاقة هوية صينية، تشبه رقم الضمان الاجتماعي.
وقال لو “سيكون من الصعب للغاية على الضحايا الأجانب الإبلاغ عن ذلك”. “من الناحية الفنية، هذا مستحيل.”
وقال نيروبام روي، الأستاذ المساعد في قسم علوم الكمبيوتر بالجامعة، إن فريقه يعمل على برنامج لمكافحة التلاعب يسمى TalkLock يمكنه الإبلاغ عن المحتوى الذي تم تغييره.
لكن مكافحة التزييف العميق مثل هذا يتطلب انضمام شركات مثل Xiaohongshu واستخدام مثل هذه البرامج.
وقال روي: “إن الضغط من أجل إجراء قياسي مثل هذا يعتمد عادة على مدى وعي الناس بالمشكلة”.
وقال آري لايتمان، أستاذ الإعلام الرقمي في جامعة كارنيجي ميلون، إنه مع عدم وجود اتفاق دولي حتى الآن بشأن قضايا الذكاء الاصطناعي، سيكون من الصعب على لويك مقاضاة حتى لو وجدت الجناة.
وقال لـ BI: “ستحدث هذه الأشياء مرارًا وتكرارًا”.
وفي الوقت نفسه، تقول لويك إنها ستستمر في العمل على قناتها على الرغم من علمها أن أي محتوى تقوم بتحميله يمكن أن يصبح مزيفًا عميقًا في الصين.
وقالت: “لا أعتقد أنني يجب أن أفكر من مكان الخوف”. “لكنني أفهم أنه في كل مرة أنشر فيها مقطع فيديو، هناك احتمال بحدوث ذلك”.