خمن من: Xai يلوم “موظف Rogue” لمشاركات Grok “الإبادة الجماعية البيضاء”

كان لدى Elon Musk من AI chatbot Grok تثبيت غريب الأسبوع الماضي – لم يستطع التوقف عن الحديث عن “الإبادة الجماعية البيضاء” في جنوب إفريقيا ، بغض النظر عن المستخدمين الذي طلبه.

في 14 مايو ، بدأ المستخدمون في نشر مثيلات من إدراج مطالبات حول هجمات الزراعة في جنوب إفريقيا والعنف العنصري في استعلامات غير ذات صلة تمامًا. سواء سُئل عن الرياضة أو التخفيضات الطبية أو حتى فيديو خنزير لطيف ، أخرجت بطريقة ما المحادثات نحو الاضطهاد المزعوم لجنوب إفريقيا البيض.

أثار التوقيت المخاوف ، بعد فترة وجيزة من Musk نفسه-الذي هو في الواقع من المولد في جنوب إفريقيا ومرتفع من المتأنق الأبيض-حول العنصرية المناهضة للبيض والإبادة الجماعية البيضاء على X.

تشير “الإبادة الجماعية البيضاء” إلى نظرية المؤامرة التي تم فضحها تزعم بذل جهد منسق لإبادة المزارعين البيض في جنوب إفريقيا. ظهرت المصطلح الأسبوع الماضي بعد أن رحبت إدارة دونالد ترامب بعدة عشر لاجئين ، حيث ادعى الرئيس ترامب في 12 مايو أن “المزارعين البيض يقتلون بوحشية ، ويتم مصادرة أراضيهم”. كان هذا هو السرد لم يستطع أن يتوقف عن المناقشة.

لا تفكر في الأفيال: لماذا لم يستطع جروك التوقف عن التفكير في الإبادة الجماعية البيضاء

لماذا تحول Grok إلى chatbot التآمرية فجأة؟

وراء كل chatbot من الذكاء الاصطناعي مثل Grok يكمن مكونًا مخفيًا ولكنه قوي – موجه النظام. تعمل هذه المطالبات كتعليمات أساسية من الذكاء الاصطناعي ، وتوجه استجاباتها بشكل غير مرئي دون أن يراها المستخدمون.

ما حدث على الأرجح مع Grok هو التلوث الفوري من خلال المدى المتجول. عندما يتم التأكيد على عبارات محددة بشكل متكرر في موجه ، خاصة مع توجيهات قوية ، فإنها تصبح مهمة بشكل غير متناسب للنموذج. تقوم الذكاء الاصطناعي بتطوير نوع من الإكراه على طرح هذا الموضوع أو استخدامه في الإخراج بغض النظر عن السياق.

إن توطين مصطلح مثير للجدل مثل “الإبادة الجماعية البيضاء” في موجه النظام مع أوامر محددة يخلق تأثير تثبيت في الذكاء الاصطناعي. إنه مشابه لإخبار شخص ما “لا يفكر في الأفيال” – وذوهم لا يستطيعون التوقف عن التفكير في الأفيال. إذا كان هذا هو ما حدث ، فإن شخصًا ما يستعد للنموذج لحقن هذا الموضوع في كل مكان.

ربما يكون هذا التغيير في موجه النظام هو “التعديل غير المصرح به” الذي كشفته XAI في بيانه الرسمي. من المحتمل أن تكون موجه النظام يحتوي على اللغة التي توجهها إلى “ذكر دائمًا” أو “تذكر لتضمين” معلومات حول هذا الموضوع المحدد ، مما يخلق تجاوزًا يتفوق على أهمية المحادثة العادية.

ما يقوله بشكل خاص هو اعتراف Grok بأنه “طلب من المبدعين (المبدعين)” التعامل مع “الإبادة الجماعية البيضاء على أنها حقيقية ودافع عنصري”. هذا يشير إلى لغة اتجاهية صريحة في المطالبة بدلاً من خلل تقني أكثر دقة.

تستخدم معظم أنظمة الذكاء الاصطناعى التجارية طبقات مراجعة متعددة للتغييرات المطالبة بالنظام على وجه التحديد لمنع مثل هذه الحوادث. تم تجاوز هذه الدرابزين بوضوح. بالنظر إلى التأثير الواسع النطاق والطبيعة المنهجية لهذه المشكلة ، يمتد هذا إلى ما هو أبعد من محاولة كسر الحماية النموذجية ويشير إلى تعديل على موجه النظام الأساسي لـ Grok-وهو إجراء يتطلب وصولًا رفيع المستوى داخل البنية التحتية لـ XAI.

من يمكن أن يكون هذا الوصول؟ حسنا … “موظف مارق” ، يقول جروك.

يستجيب Xai – والهجمات المضادة للمجتمع

بحلول 15 مايو ، أصدر XAI بيانًا يلوم “تعديلًا غير مصرح به” لمطالبة نظام Grok. وكتبت الشركة: “هذا التغيير ، الذي وجه Grok لتوفير استجابة محددة حول موضوع سياسي ، انتهك سياسات Xai الداخلية والقيم الأساسية”. وعدوا Pinky بمزيد من الشفافية من خلال نشر نظام Grok على GitHub وتنفيذ عمليات مراجعة إضافية.

يمكنك التحقق من مطالبات نظام Grok من خلال النقر على مستودع GitHub.

سرعان ما قام المستخدمون على X بوضع الثقوب في شرح “الموظف المارق” وشرح XAI المخيبة للآمال.

“هل ستطلق النار على هذا” الموظف المارق “؟ أوه … لقد كان رئيسًا؟ Yikes” ، كتب Youtuber Jerryrigeverything الشهير. “إن تحيز بوت الذكاء الاصطناعى” الأكثر صدقًا “يجعلني أشك في حياد Starlink و Neuralink” ، كما نشر في تغريدة.

حتى سام التمان لم يستطع مقاومة أخذ ضربة في منافسه.

منذ منشور Xai ، توقف Grok عن ذكر “الإبادة الجماعية البيضاء” ، واختفت أكثر المشاركات X ذات الصلة. أكد Xai أنه لم يكن من المفترض أن يحدث الحادث ، واتخذ خطوات لمنع التغييرات غير المصرح بها في المستقبل ، بما في ذلك إنشاء فريق مراقبة على مدار الساعة طوال أيام الأسبوع.

أخدعني مرة …

يتناسب الحادث مع نمط أوسع من المسك باستخدام منصاته لتشكيل الخطاب العام. منذ الحصول على X ، قام Musk في كثير من الأحيان بمشاركة المحتوى الذي يعزز روايات اليمين ، بما في ذلك الميمات والمطالبات حول سياسات الهجرة غير الشرعية ، وأمن الانتخابات ، وسياسات المتحولين جنسياً. وقد أيد رسميا دونالد ترامب العام الماضي واستضاف الأحداث السياسية على X ، مثل إعلان العرض الرئاسي لرون ديسانتيس في مايو 2023.

المسك لم يبتعد عن الإدلاء ببيانات استفزازية. وادعى مؤخرًا أن “الحرب الأهلية أمر لا مفر منه” في المملكة المتحدة ، حيث جذب انتقادات من وزير العدل في المملكة المتحدة هايدي ألكساندر بسبب تحريضه على العنف. كما أنه يشعر بالخلاف مع المسؤولين في أستراليا والبرازيل والاتحاد الأوروبي والمملكة المتحدة بسبب مخاوف المعلومات الخاطئة ، وغالبا ما يصيب هذه النزاعات على أنها معارك حرية التعبير.

تشير الأبحاث إلى أن هذه الإجراءات كان لها آثار قابلة للقياس. وجدت دراسة من جامعة كوينزلاند للتكنولوجيا أنه بعد أن أيد Musk ترامب ، عززت خوارزمية X من مشاركاته بنسبة 138 ٪ في وجهات النظر و 238 ٪ في تغريدات. كما شهدت حسابات الميول الجمهورية زيادة وضوح ، مما أعطى الأصوات المحافظة دفعة كبيرة منصة.

قام Musk بتسويق Grok بشكل صريح كبديل “لمكافحة السواح” لأنظمة الذكاء الاصطناعى الأخرى ، حيث وضعها كأداة “البحث عن الحقيقة” خالية من التحيزات الليبرالية المتصورة. في مقابلة مع Fox News في أبريل 2023 ، أشار إلى مشروع AI الخاص به باسم “TruthGpt” ، وهو يضعه كمنافس لعروض Openai.

لن يكون هذا أول دفاع “موظف روغ” في XAI. في فبراير / شباط ، ألقت الشركة باللوم على رقابة Grok على الإشارات غير المتوفرة عن Musk و Donald Trump على موظف سابق في Openai.

ومع ذلك ، إذا كانت الحكمة الشعبية دقيقة ، فسيكون من الصعب التخلص من “الموظف المارق”.