كاسيس ، فرنسا (AP) – في اللحظة التي تحطم فيها عالمها قبل ثلاث سنوات ، وجدت ستيفاني ميستري ابنتها ماري البالغة من العمر 15 عامًا هامدة في غرفة النوم حيث ماتت منتحرة.
وقالت ميستري: “لقد انتقلت من النور إلى الظلام في جزء من الثانية”، واصفة اليوم في سبتمبر 2021 الذي شهد بداية معركتها ضد الإرهاب. تيك توك، تطبيق الفيديو المملوك للصين الذي تلومه على دفع ابنتها نحو اليأس.
___
ملاحظة المحرر – تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى المساعدة، فإن شريان الحياة الوطني للانتحار والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو إرسال رسالة نصية على الرقم 988. وهناك أيضًا دردشة عبر الإنترنت على 988lifeline.org. يمكن العثور على خطوط المساعدة خارج الولايات المتحدة على www.iasp.info/suicidalthinks.
___
أثناء البحث في هاتف ابنتها بعد وفاتها، اكتشفت ميستري مقاطع فيديو تروج لطرق الانتحار، وبرامج تعليمية وتعليقات تشجع المستخدمين على تجاوز “مجرد محاولات انتحار”. قالت تيك توك وقد قامت الخوارزمية بإرسال هذا المحتوى مرارًا وتكرارًا إلى ابنتها.
وقال ميستري، الذي يعيش في كاسيس، بالقرب من مرسيليا، في جنوب فرنسا: “لقد كان غسيل دماغ”. “لقد جعلوا الاكتئاب وإيذاء النفس أمرًا طبيعيًا، وحولوه إلى شعور ملتوي بالانتماء”.
والآن يرفع ميستر وست عائلات أخرى دعوى قضائية ضد TikTok France، متهمين المنصة بالفشل في تخفيف المحتوى الضار وتعريض الأطفال لمواد تهدد حياتهم. ومن بين العائلات السبع، عانت اثنتان من فقدان طفل.
عند سؤال TikTok عن الدعوى القضائية، قالت إن إرشاداتها تحظر أي ترويج للانتحار، وإنها توظف 40 ألف متخصص في مجال الثقة والسلامة في جميع أنحاء العالم – المئات منهم من المشرفين الناطقين بالفرنسية – لإزالة المنشورات الخطيرة. وقالت الشركة أيضًا إنها تحيل المستخدمين الذين يبحثون عن مقاطع فيديو متعلقة بالانتحار إلى خدمات الصحة العقلية.
قبل أن تنتحر، قامت ماري لو تيك بتصوير عدة مقاطع فيديو لشرح قرارها، مشيرة إلى صعوبات مختلفة في حياتها، واقتبست أغنية لمجموعة Suicideboys من موسيقى الراب الإيمو ومقرها لويزيانا، والتي تحظى بشعبية كبيرة على TikTok.
تدعي والدتها أيضًا أن ابنتها تعرضت للتخويف والمضايقة بشكل متكرر في المدرسة وعلى الإنترنت. وبالإضافة إلى الدعوى القضائية، قدمت الأم البالغة من العمر 51 عامًا وزوجها شكوى ضد خمسة من زملاء ماري في الصف ومدرستها الثانوية السابقة.
قبل كل شيء، يلقي ميستري اللوم على تيك توك، قائلاً إن وضع التطبيق “في أيدي مراهق متعاطف وحساس لا يعرف ما هو حقيقي مما هو غير حقيقي هو بمثابة قنبلة موقوتة”.
لم يقم العلماء بإنشاء صلة واضحة بين وسائل التواصل الاجتماعي وقال جريجوار بورست، أستاذ علم النفس وعلم الأعصاب الإدراكي بجامعة باريس سيتي، إن ومشاكل الصحة العقلية أو الأذى النفسي.
وقال بورست: “من الصعب للغاية إظهار سبب وتأثير واضحين في هذا المجال”، مستشهداً بدراسة رائدة تمت مراجعتها من قبل النظراء والتي وجدت أن 0.4% فقط من الاختلافات في رفاهية المراهقين يمكن أن تعزى إلى استخدام وسائل التواصل الاجتماعي.
بالإضافة إلى ذلك، أشار بورست إلى أنه لا توجد دراسات حالية تشير إلى أن TikTok أكثر ضررًا من التطبيقات المنافسة مثل Snapchat أو X أو Facebook أو Instagram.
في حين أن معظم المراهقين يستخدمون وسائل التواصل الاجتماعي دون ضرر كبير، فإن المخاطر الحقيقية، كما قال بورست، تكمن في أولئك الذين يواجهون بالفعل تحديات مثل التنمر أو عدم الاستقرار الأسري.
وقال بورست: “عندما يشعر المراهقون بالسوء تجاه أنفسهم ويقضون وقتا معرضين لصور مشوهة أو مقارنات اجتماعية ضارة، فإن ذلك يمكن أن يؤدي إلى تفاقم حالتهم العقلية”.
وقالت المحامية لور بوترون مارميون، التي تمثل العائلات السبع التي تقاضي تيك توك، إن قضيتهم تستند إلى “أدلة واسعة النطاق”. وقال بوترون مارميون إن الشركة “لم يعد بإمكانها الاختباء وراء الادعاء بأن هذه ليست مسؤوليتها لأنها لا تصنع المحتوى”.
وتزعم الدعوى القضائية أن خوارزمية TikTok مصممة لاحتجاز المستخدمين الضعفاء في دورات من اليأس من الربح والسعي للحصول على تعويضات للعائلات.
وقال ميستري: “إن استراتيجيتهم ماكرة”. “إنهم يجذبون الأطفال إلى محتوى يسبب الاكتئاب لإبقائهم على المنصة، ويحولونهم إلى منتجات مربحة لإعادة المشاركة”.
وأشار بوترون مارميون إلى أن النسخة الصينية من TikTok، Douyin، تتميز بضوابط محتوى أكثر صرامة للمستخدمين الشباب. ويتضمن “وضع الشباب” الإلزامي للمستخدمين الذين تقل أعمارهم عن 14 عامًا والذي يقيد وقت الشاشة بـ 40 دقيقة يوميًا ويقدم المحتوى المعتمد فقط.
قال بوترون مارميون: “هذا يثبت أن بإمكانهم تعديل المحتوى عندما يختارون ذلك”. “إن غياب هذه الضمانات هنا أمر واضح.”
وخلص تقرير بعنوان “الأطفال والشاشات”، بتكليف من الرئيس الفرنسي إيمانويل ماكرون في أبريل/نيسان والذي ساهم فيه بورست، إلى أن بعض الميزات الخوارزمية يجب اعتبارها مسببة للإدمان ومحظورة من أي تطبيق في فرنسا. ودعا التقرير أيضًا إلى تقييد الوصول إلى وسائل التواصل الاجتماعي للقاصرين دون سن 15 عامًا في فرنسا. ولم يتم اعتماد أي من الإجراءين.
TikTok، التي واجهت الإغلاق في الولايات المتحدة حتى الرئيس دونالد ترامب علقت الحظر عليه، كما جاء تحت المجهر عالميا.
وقد شهدت الولايات المتحدة جهودًا قانونية مماثلة من قبل الآباء. وتتهم إحدى الدعاوى القضائية في مقاطعة لوس أنجلوس شركة Meta ومنصاتها Instagram وFacebook، بالإضافة إلى Snapchat وTikTok، بتصميم منتجات معيبة تسبب إصابات خطيرة. تسرد الدعوى ثلاثة مراهقين ماتوا منتحرين. وفي شكوى أخرى، دولتين قبليتين اتهمت شركات التواصل الاجتماعي الكبرى، بما في ذلك شركة Alphabet المالكة لموقع YouTube، بالمساهمة في ارتفاع معدلات الانتحار بين الشباب الأصليين.
الرئيس التنفيذي لشركة ميتا مارك زوكربيرج اعتذر للوالدين الذي فقد أطفاله أثناء الإدلاء بشهادته العام الماضي في مجلس الشيوخ الأمريكي.
وفي ديسمبر/كانون الأول، سنت أستراليا قانوناً رائداً قانون حظر وسائل التواصل الاجتماعي حسابات للأطفال أقل من 16 سنة.
وفي فرنسا، تتوقع بوترون مارميون أن تقوم شركة TikTok Limited Technologies، وهي فرع الاتحاد الأوروبي لشركة ByteDance – الشركة الصينية التي تمتلك TikTok – بالرد على الادعاءات في الربع الأول من عام 2025. وستقرر السلطات لاحقًا ما إذا كانت ستتم المحاكمة ومتى.
وعندما اتصلت بها وكالة أسوشيتد برس، قالت TikTok إنها لم يتم إخطارها بالدعوى القضائية الفرنسية، التي تم رفعها في نوفمبر. وقال بوترون مارميون إن الأمر قد يستغرق أشهراً حتى يتمكن النظام القضائي الفرنسي من معالجة الشكوى وأن تقوم السلطات في أيرلندا – موطن المقر الرئيسي الأوروبي لـ TikTok – بإخطار الشركة رسميًا.
وبدلاً من ذلك، سلط متحدث باسم Tiktok الضوء على إرشادات الشركة التي تحظر المحتوى الذي يروج للانتحار أو إيذاء النفس.
يجادل النقاد بأن ادعاءات TikTok قوية الاعتدال يقصر.
ورفض عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، تأكيد TikTok أنه تم الإبلاغ عن أكثر من 98.8٪ من مقاطع الفيديو الضارة وإزالتها بين أبريل ويونيو.
عند سؤالها عن النقاط العمياء في جهود الاعتدال، تزعم منصات التواصل الاجتماعي أن المستخدمين قادرون على تجاوز الاكتشاف باستخدام لغة غامضة أو تلميحات تكافح الخوارزميات للكشف عنها، كما قال أحمد.
تمت صياغة مصطلح “algospeak” لوصف تقنيات مثل استخدام الرموز التعبيرية للحمار الوحشي أو المدرع للحديث عن جرح نفسك، أو الرموز التعبيرية للعلم السويسري كإشارة إلى الانتحار.
وقال أحمد إن مثل هذه الكلمات الرمزية “ليست معقدة بشكل خاص”. قال أحمد: “السبب الوحيد لعدم تمكن TikTok من العثور عليهم، بينما يتمكن الباحثون المستقلون والصحفيون وغيرهم من ذلك، هو أنهم لا يبحثون بجدية كافية”.
أجرت منظمة أحمد دراسة في عام 2022 تحاكي تجربة فتاة تبلغ من العمر 13 عامًا على تيك توك.
وقال أحمد: “في غضون 2.5 دقيقة، تم تقديم محتوى للحسابات يتضمن إيذاء النفس”. “بمرور ثماني دقائق، رأوا محتوى اضطراب الأكل. في المتوسط، كل 39 ثانية، تقوم الخوارزمية بنشر مواد ضارة.
الخوارزمية “تعرف أن محتوى اضطرابات الأكل وإيذاء النفس يسبب الإدمان بشكل خاص” بالنسبة للفتيات الصغيرات.
بالنسبة لميستر، المعركة شخصية للغاية. وقالت وهي تجلس في غرفة ابنتها، حيث أبقت الديكور دون تغيير على مدى السنوات الثلاث الماضية، إنه يجب على الآباء أن يعرفوا مخاطر وسائل التواصل الاجتماعي.
وقالت إنها لو علمت بالمحتوى الذي تم إرساله إلى ابنتها، لما سمحت لها مطلقًا باستخدام TikTok. يتقطع صوتها وهي تصف ماري بأنها مراهقة “مشمسة ومضحكة” تحلم بأن تصبح محامية.
وقالت: “في ذكرى ماري، سأقاتل طالما أملك القوة”. “يحتاج الآباء إلى معرفة الحقيقة. يجب أن نواجه هذه المنصات ونطالب بالمساءلة.
___
ساهم كاتبا وكالة أسوشيتد برس هاليلويا هاديرو وزين سو في كتابة هذه القصة.
