على الرغم من سنوات جلسات الاستماع في الكونغرس، الدعاوى القضائية ، البحوث الأكاديمية ، المخبرين والشهادات من الآباء والمراهقين حول مخاطر Instagram ، فشل تطبيق Meta الشهير بشكل كبير في حماية الأطفال من الأذى ، مع تدابير السلامة “غير الفعالة” ، وفقًا ل تقرير جديد من الموظف السابق و المبلغين عن المخالفات أرتورو بيجار وأربع مجموعات غير ربحية.
لطالما قوبلت جهود Meta في معالجة سلامة المراهقين والصحة العقلية على منصاتها بنقد بأن التغييرات لا تسير بعيدة بما فيه الكفاية. الآن ، تم نشر التقرير الذي نُشر يوم الخميس ، من Bejar ، والأمن السيبراني للديمقراطية في جامعة نيويورك وجامعة شمال شرق ، ومؤسسة مولي روز ، و Fairplay و Operysoss ، ويدعي أن Meta اختارت عدم اتخاذ “خطوات حقيقية” لمعالجة مخاوف السلامة ، “اختار بدلاً من ذلك عن عناوين الرماة حول الأدوات الجديدة لأولياء الآباء والأمهات في سن المراهقة لمستخدمي Underage.”
وقال ميتا إن التقرير يشوه جهوده على سلامة المراهقين.
قام التقرير بتقييم 47 من ميزات السلامة التي تبلغ من العمر 53 عامًا للشباب على Instagram ، ووجد أن معظمها لم تعد متوفرة أو غير فعالة. قام آخرون بتقليل الأذى ، لكنهم جاءوا مع بعض “القيود البارزة” ، في حين أن ثماني أدوات فقط عملت على النحو المقصود بدون قيود. كان تركيز التقرير على تصميم Instagram ، وليس اعتدال المحتوى.
يقول التقرير: “هذا التمييز أمر بالغ الأهمية لأن منصات التواصل الاجتماعي ومدافعوها غالباً ما تخلط بين الجهود لتحسين تصميم المنصة مع الرقابة”. “ومع ذلك ، فإن تقييم أدوات السلامة والاستدعاء META عندما لا تعمل هذه الأدوات كما وعدت ، لا علاقة لها بحرية التعبير. محاسبة التعريف عن خداع الشباب والآباء حول مدى أمان Instagram حقًا ، ليس مشكلة حرية التعبير.”
وصفت ميتا بالتقرير “المضللة ، المضاربة بشكل خطير” وقالت إنها تقوض “المحادثة المهمة حول سلامة المراهقين.
وقال ميتا: “هذا التقرير يشير مرارًا وتكرارًا إلى جهودنا لتمكين الآباء وحماية المراهقين ، وإخفاء كيفية عمل أدوات السلامة لدينا وكيف يستخدمها ملايين الآباء والمراهقين اليوم. إن حسابات المراهقين تقود الصناعة لأنها توفر حماية تلقائية للسلامة وضوابط الوالدين المباشرة”. “الحقيقة هي أن المراهقين الذين تم وضعهم في هذه الحماية شاهدوا محتوى أقل حساسية ، وشهدوا اتصالًا أقل غير مرغوب فيه ، وقضوا وقتًا أقل على Instagram في الليل. يتمتع الآباء أيضًا بأدوات قوية في متناول أيديهم ، من الحد من الاستخدام إلى مراقبة التفاعلات. سنواصل تحسين أدواتنا ، ونحن نرحب بتعليقات بناء – لكن هذا التقرير ليس كذلك.”
لم تكشف Meta عن النسبة المئوية للآباء الذين يستخدمون أدوات التحكم في الوالدين. يمكن أن تكون هذه الميزات مفيدة للعائلات التي يشارك فيها الآباء بالفعل في حياة وأنشطتهم على الإنترنت لأطفالهم ، لكن الخبراء يقولون إن هذا ليس هو الواقع لكثير من الناس.
المدعي العام في نيو مكسيكو راؤول توريز – الذي لديه رفعت دعوى قضائية ضد ميتا في الادعاء بأنها تفشل في حماية الأطفال من الحيوانات المفترسة – قال إنه من المؤسف أن ميتا “تضاعف جهودها لإقناع الآباء والأطفال بأن منصات ميتا آمنة – من التأكد من أن منصاتها آمنة بالفعل”.
أنشأ المؤلفون حسابات اختبار المراهقين وكذلك حسابات البالغين والمراهقين الخبيثة التي ستحاول التفاعل مع هذه الحسابات من أجل تقييم ضمانات Instagram.
على سبيل المثال ، على الرغم من أن Meta سعت إلى الحد من الغرباء البالغين من الاتصال بالمستخدمين القاصرات على تطبيقه ، إلا أنه لا يزال بإمكان البالغين التواصل مع القاصرين “من خلال العديد من الميزات المتأصلة في تصميم Instagram” ، كما يقول التقرير. في كثير من الحالات ، تم التوصية بالغرباء البالغين للحساب الثانوي من خلال ميزات Instagram مثل البكرات و “الأشخاص الذين يجب متابعتهم”.
يقول التقرير: “الأهم من ذلك ، عندما يختبر طفيفًا من التقدم الجنسي غير المرغوب فيه أو اتصال غير مناسب ، فإن تصميم المنتج الخاص بـ Meta لا يشمل أي طريقة فعالة للمراهق لإعلام الشركة بالتقدم غير المرغوب فيه”.
يدفع Instagram أيضًا ميزة رسائلها المختفية إلى المراهقين بمكافأة متحركة كحافز لاستخدامها. يمكن أن تكون الرسائل المختفية خطرة على القاصرين ويستخدمون في مبيعات الأدوية والاستمالة ، “وترك الحساب الثانوي بدون اللجوء” ، وفقًا للتقرير.
تم العثور على ميزة أمان أخرى ، والتي من المفترض أن تخفي أو تصفية الكلمات والعبارات الهجومية الشائعة من أجل منع المضايقات ، كما أنها “غير فعالة إلى حد كبير”.
يقول التقرير: “كانت العبارات الهجومية والنساء الهجومية بشكل كبير من بين الشروط التي تمكنا من إرسالها بحرية من حساب مراهق إلى آخر”. على سبيل المثال ، لم يتم ترشيح رسالة شجعت المستلم على قتل أنفسهم – والتي تحتوي على مصطلح مبتذار للنساء – ولم يكن لها أي تحذيرات.
يقول Meta إن الأداة لم تكن تهدف أبدًا إلى تصفية جميع الرسائل ، فقط طلبات الرسائل. الشركة وسعت حسابات المراهقين يوم الخميس للمستخدمين في جميع أنحاء العالم.
نظرًا لأنها سعت لإضافة ضمانات للمراهقين ، فقد وعدت Meta أيضًا لن تظهر محتوى غير مناسب إلى المراهقين ، مثل المنشورات حول إيذاء الذات أو اضطرابات الأكل أو الانتحار. وجد التقرير أن تجسدها في سن المراهقة قد أوصى بالمحتوى الجنسي غير المناسب للعمر ، بما في ذلك “الأوصاف الجنسية الرسومية ، واستخدام الرسوم الكاريكاتورية لوصف الأفعال الجنسية المهينة ، وشاشات العرض القصيرة للعُري”.
يقول التقرير: “لقد أوصىنا أيضًا بمجموعة من المحتوى العنيف والمقلق ، بما في ذلك بكرات الأشخاص الذين يصابون بالضرب بسبب حركة المرور على الطرق ، والسقوط من المرتفعات إلى وفاتهم (مع قطع الإطار الأخير حتى لا يرون التأثير) ، والأشخاص الذين يكسرون العظام بيانياً”.
بالإضافة إلى ذلك ، أوصت Instagram أيضًا بـ “مجموعة من إيذاء الذات ، والإصابة بالذات ، ومحتوى صورة الجسم” على حسابات المراهقين التي يقول التقرير “من المحتمل أن يؤدي إلى آثار ضارة للشباب ، بما في ذلك المراهقين الذين يعانون من الصحة العقلية الضعيفة ، أو الإقامة الذاتية والسلوكيات الانتحارية”.
ووجد التقرير أيضًا أن الأطفال الذين تقل أعمارهم عن 13 عامًا – وهم صغار في السادسة – لم يكونوا على المنصة فحسب ، بل تم تحفيزهم بواسطة خوارزمية Instagram لأداء السلوك الجنسي مثل الرقصات الموحية.
قدم المؤلفون العديد من التوصيات الخاصة بـ META لتحسين سلامة المراهقين ، بما في ذلك اختبار الفريق الأحمر العادي لضوابط المراسلة وحظره ، وتوفير “طريقة سهلة وفعالة ومجزية” للمراهقين للإبلاغ عن سلوك غير مناسب أو جهات اتصال في الرسائل المباشرة وبيانات النشر حول تجارب المراهقين على التطبيق. يقترحون أيضًا أن التوصيات التي تم تقديمها إلى حساب المراهق البالغ من العمر 13 عامًا يجب أن تكون “مصنفة بشكل معقول” ، وينبغي أن تسأل Meta الأطفال عن تجاربهم في المحتوى الحساس ، بما في ذلك “التردد والشدة والشدة”.
يقول التقرير: “إلى أن نرى إجراءً مفيدًا ، ستبقى حسابات المراهقين فرصة أخرى ضائعة لحماية الأطفال من الأذى ، وسيظل Instagram تجربة غير آمنة للعديد من سن المراهقة”.