مباشرة بعد تصوير تشارلي كيرك خلال حدث جامعي في ولاية يوتا ، كان الفيديو الرسومي لما حدث كان متاح على الفور على الفور تقريبًا، من عدة زوايا ، في حركة بطيئة وسرعة في الوقت الحقيقي. شاهد الملايين من الأشخاص – أحيانًا سواء أرادوا ذلك أم لا – حيث يتم تلقائي مقاطع الفيديو على منصات التواصل الاجتماعي.
كان من السهل العثور على الفيديو على X ، على Facebook ، على Tiktok ، على Instagram ، على YouTube – حتى على حقيقة الرئيس دونالد ترامب. وقالت المنصات ، بشكل عام ، إنها تقوم بإزالة بعض مقاطع الفيديو على الأقل إذا انتهكت سياساتها ، على سبيل المثال إذا كان الشخص يمجد القتل بأي شكل من الأشكال. في حالات أخرى ، تم تطبيق شاشات التحذير على تحذير الأشخاص الذين كانوا على وشك رؤية المحتوى الرسومي.
بعد يومين من وفاة كيرك ، كان لا يزال من السهل العثور على مقاطع الفيديو على وسائل التواصل الاجتماعي ، على الرغم من المكالمات لإزالتها.
“لم يكن من الواضح على الفور ما إذا كان Instagram على سبيل المثال فشل في إزالة بعض مقاطع الفيديو الرسومية لتشارلي كيرك التي يتم إطلاق النار عليها أو ما إذا كانت قد اتخذت خيارًا واعًا لتركهم. والسبب في أنه كان من الصعب للغاية معرفة ذلك ، من الواضح أن مقاطع الفيديو هذه كانت تدور على نطاق واسع”.
توضح الأحداث أن منصات تحديات تعميد المحتوى تواجه منصات في التعامل مع الأحداث في الوقت الفعلي السريع ، والتي تعقدها وفاة ناشط محافظ مستقطب تم تصويره أمام حشد مسلح مع الهواتف الذكية التي تسجل اللحظة.
سياسات غامضة
إنها قضية تعاملت معها شركات وسائل التواصل الاجتماعي من قبل. اضطر Facebook إلى مواجهة الأشخاص الذين يريدون العنف المعياري مع أ إطلاق النار الجماعي في نيوزيلندا في عام 2019. قام الناس أيضًا بتعبئة المعارك والانتحار والقتل.
على غرار المنصات الأخرى ، لا تحظر قواعد Meta تلقائيًا نشر مقاطع فيديو مثل إطلاق النار على Kirk ، ولكن يتم تطبيق ملصقات التحذير ولا يتم عرضها على المستخدمين الذين يقولون إنهم أقل من 18 محتوى عنيف ورسومي، والتي أشاروا إليها سوف تنطبق في هذه الحالة ، ولكن لم يكن لديه مزيد من التعليق.
وقالت يوتيوب إنها تزيل “بعض المحتوى الرسومي” المتعلق بالحدث إذا لم يوفر سياقًا كافيًا ، وتقييد مقاطع الفيديو حتى لا يمكن رؤيتها من قبل المستخدمين دون سن 18 أو أولئك الذين لم يتم تسجيلهم.
وقال يوتيوب: “نحن نراقب عن كثب منصتنا ورفع مستوى محتوى الأخبار بشكل بارز على الصفحة الرئيسية ، في البحث وفي التوصيات لمساعدة الناس على اطلاع”.
في بيان ، قال Tiktok إنها “ملتزمة بإنفاذ إرشادات مجتمعنا بشكل استباقي ونفذت ضمانات إضافية لمنع الأشخاص من مشاهدة لقطات بشكل غير متوقع تنتهك قواعدنا”.
انتقلت Tiktok أيضًا لتقييد اللقطات من خلاصة “For You” ، بحيث يتعين على الناس البحث عنها إذا كانوا يريدون رؤيتها وإضافة شاشات تحذير للمحتوى بالإضافة إلى إزالة مقاطع الفيديو التي أظهرت لقطات رسومية ، عن قرب.
مشاركة مجزية
منصات التواصل الاجتماعي خوارزميات مكافأة المشاركة. إذا حصل مقطع فيديو على الكثير من رد الفعل ، فإنه ينتقل إلى قمة خلاصات الناس ، حيث يراها المزيد من الناس ويتفاعلون معه ، ومواصلة الدورة.
“أقصد ، هذا هو العالم الذي أبرمناه جميعًا. هذه هي الصفقة التي أبرمناها جميعًا. الشخص الذي يحدد ما هو جدير بالاهتمام على Instagram هو مارك زوكربيرج. الشخص الذي يحدد ما يبقى على X هو إيلون موسك. إنهم يمتلكون تلك المنصات ، ويحددون ما هو عليه. “الحقيقة هي أننا نعيش في عالم حيث يتم التحكم في القنوات الأكثر أهمية للمعلومات التي يتم تداولها من قبل أفراد عازبين.”
وهؤلاء الأفراد هم الذين يقررون ما الذي يجعل أولوية. لقد خفضت META و X وغيرها من المنصات الاجتماعية إلى اعتدال المحتوى البشري في السنوات الأخيرة ، بالاعتماد على الذكاء الاصطناعي الذي يمكن أن يكون أكثر من المعتدل.
تختلف اللوائح حسب المنطقة
ليس لدى الولايات المتحدة أي تنظيم شامل يحظر على المحتوى العنيف عرضه على الإنترنت ، على الرغم من أن المنصات التي تحاول عمومًا تقييد القاصرين من القدرة على رؤيتها. بالطبع ، هذا لا يعمل دائمًا ، نظرًا لأن أعمار المستخدمين لا يتم التحقق منها دائمًا ، وغالبًا ما يكذب الأطفال حول أعمارهم عند التسجيل في المنصات الاجتماعية.
وضعت السلطات في أماكن أخرى قوانين تتطلب من شركات وسائل التواصل الاجتماعي بذل المزيد من الجهد لحماية مستخدميها من الأذى عبر الإنترنت. لدى بريطانيا والاتحاد الأوروبي قوانين واسعة النطاق تجعل منصات التكنولوجيا مسؤولة عن “السلامة عبر الإنترنت”.
يتطلب قانون السلامة عبر الإنترنت منصات ، حتى تلك غير المتمركزة في المملكة المتحدة ، لحماية المستخدمين من أكثر من عشرة أنواع من المحتوى ، من الاعتداء الجنسي على الأطفال إلى المواد الإباحية المتطرفة.
المحتوى الذي يصور جريمة جنائية مثل الهجوم العنيف على شخص ما ليس بالضرورة محتوى غير قانوني ، ولكن لا يزال يتعين على المنصات تقييم ما إذا كانت تخطو المواد المحظورة الأخرى مثل تشجيع الإرهاب.
تقول الحكومة البريطانية إن القواعد مصممة خصيصًا لحماية الأطفال من “محتوى ضار وعمر غير مناسب” ومنح الآباء والأطفال “طرقًا واضحة ويمكن الوصول إليها” للإبلاغ عن المشكلات عبر الإنترنت.
يتضمن ذلك مواد محتوى “تصور أو يشجع عنفًا أو إصابة خطيرة” ، والتي يجب أن تكون الخدمات عبر الإنترنت مطلوبة لمنع الأطفال من الرؤية.
يمكن معاقبة انتهاكات قواعد المملكة المتحدة بغرامات تصل إلى 18 مليون جنيه (24.4 مليون دولار) أو 10 ٪ من الإيرادات السنوية للشركة ، ويمكن أيضًا أن يتحمل كبار المديرين مسؤولية إجرامية عن عدم الامتثال.
لا يزال قانون المملكة المتحدة جديدًا إلى حد ما ، وبدأ فقط في هذا المفعول في مارس حيث يتم طرحه على مراحل.
بقية أوروبا لديها كتاب قواعد مماثل دخل في عام 2023.
بموجب قانون السلامة الرقمية للاتحاد الأوروبي ، يتعين على شركات التكنولوجيا تحمل المزيد من المسؤولية عن المواد على مواقعها ، تحت تهديد الغرامات الضخمة. تواجه أكبر المنصات ومحركات البحث عبر الإنترنت ، بما في ذلك Google و Facebook و Instagram و Tiktok ، تدقيقًا إضافيًا.
يقول بروكسل إن المنصات يجب أن تمنح المستخدمين آليات “سهلة الاستخدام” لعلامة المحتوى الذي يعتبر غير قانوني ، مثل مواد الإرهاب والاعتداء الجنسي على الأطفال ، مضيفًا أن المنصات يجب أن تعمل بعد ذلك على التقارير “في الوقت المناسب”.
لكن هذا لا يتطلب منصات للشرطة بشكل استباقي ، وإنزال المواد غير القانونية.
—
ساهم ديفيد باودر ، كاتب AP Media David Bauder في هذه القصة.