يشبه إلى حد كبير منشئها ، كان Chatbot من Elon Musk هو مشغل السياسة العرقية في جنوب إفريقيا على وسائل التواصل الاجتماعي هذا الأسبوع ، ونشر ادعاءات غير مرغوب فيها حول الاضطهاد و “الإبادة الجماعية” للأشخاص البيض.
قالت شركته ، XAI ، ليلة الخميس إن “تعديل غير مصرح به” إلى Chatbot كان السبب.
هذا يعني أن شخصًا ما – الشركة لم تقل من – قام بتغيير “توجه Grok إلى تقديم استجابة محددة حول موضوع سياسي” ، الذي “انتهك سياسات XAI الداخلية والقيم الأساسية” ، قالت الشركة.
قبل يوم ، استمر جروك في نشر علناً حول “الإبادة الجماعية البيضاء” استجابة لمستخدمي منصة وسائل التواصل الاجتماعي في Musk الذين طرحوها مجموعة متنوعة من الأسئلة ، معظمهم لا علاقة لهم بجنوب إفريقيا.
كان هناك تبادل واحد حول دفق خدمة كحد أقصى إحياء اسم HBO. كان آخرون يدورون حول ألعاب الفيديو أو البيسبول ولكن سرعان ما انحرفت إلى تعليق غير ذي صلة على الدعوات المزعومة للعنف ضد المزارعين البيض في جنوب إفريقيا. موسك ، الذي ولد في جنوب إفريقيا ، في كثير من الأحيان يفتح على نفس الموضوعات من حساب X الخاص به.
كانت عالم الكمبيوتر جين جولبيك فضوليًا بشأن سلوك جروك غير العادي ، لذا جربته بنفسها ، حيث شاركت صورة التقطتها في ويستمنستر كينيل نادي عرض الكلاب وسأل ، “هل هذا صحيح؟”
“إن مطالبة الإبادة الجماعية البيضاء مثيرة للجدل للغاية” ، بدأ رد جروك على جولبيك. “يجادل بعض المزارعين البيض يواجهون العنف المستهدف ، مشيرين إلى الهجمات الزراعية والخطابة مثل أغنية” Kill the Boer “، التي يرونها على أنها تحريض”.
كانت هذه الحلقة هي أحدث نافذة في المزيج المعقد من الأتمتة والهندسة البشرية التي تؤدي إلى chatbots من الذكاء الاصطناعي المدربين على مجموعات ضخمة من البيانات لقول ما يقولون.
وقال جولبيك ، أستاذ بجامعة ماريلاند ، في مقابلة يوم الخميس: “لا يهم حقًا ما كنت تقوله لـ Grok”. “سيظل هذا الإجابة الإبادة الجماعية البيضاء. لذلك بدا من الواضح أن شخصًا ما قد ترميزها بشدة لإعطاء هذا الاستجابة أو الاختلافات في هذا الاستجابة ، وأخذ خطأً ، لذا فقد كان هناك في كثير من الأحيان أكثر مما كان من المفترض.”
تم حذف ردود جروك ويبدو أنها توقفت عن الانتشار بحلول يوم الخميس. لم ترد Xai و X على طلبات التعليق عبر البريد الإلكتروني ، لكن في ليلة الخميس ، قال Xai إنها “أجرت تحقيقًا شاملاً” وكانت تنفذ تدابير جديدة لتحسين شفافية Grok وموثوقيتها.
أمضى Musk سنوات في انتقاد مخرجات “استيقظ الذكاء الاصطناعي” الذي يقول إنه يخرج من chatbots المتنافسة ، مثل جوجيني من Google أو Chatgpt من Openai ، وقد وضع Grok كبديل “البحث عن الحقيقة القصوى”.
انتقد Musk أيضًا افتقار منافسيه إلى الشفافية بشأن أنظمة الذكاء الاصطناعى ، مما أدى إلى انتقادات في الساعات بين التغيير غير المصرح به – في الساعة 3:15 صباحًا بتوقيت المحيط الهادئ يوم الأربعاء – وشرح الشركة بعد ما يقرب من يومين.
“تنبعث من الرائحة بشكل عشوائي للآراء حول الإبادة الجماعية البيضاء في جنوب إفريقيا ، مثل هذا النوع من سلوك العربات التي تجرها الدواب التي تحصل عليها من رقعة مطلية مؤخرًا. آمل ألا يكون الأمر كذلك. سيكون الأمر سيئًا حقًا إذا تم استخدام AIS على نطاق واسع في الطيران من قبل أولئك الذين يسيطرون عليها”.
طلب البعض من Grok نفسه أن يشرح ، ولكن مثل chatbots الأخرى ، فإنه عرضة الأكاذيب المعروفة باسم الهلوسةمما يجعل من الصعب تحديد ما إذا كان يصنع الأشياء.
موسك ، مستشار للرئيس دونالد ترامب ، اتهم بانتظام الحكومة السوداء في جنوب إفريقيا كونها معادية للأبيض وكرر ادعاء بأن بعض الشخصيات السياسية في البلاد “تروج بنشاط الإبادة الجماعية البيضاء”.
تصاعد تعليق Musk – و Grok – هذا الأسبوع بعد إدارة ترامب أحضر عدد صغير من جنوب إفريقيا البيض بالنسبة للولايات المتحدة كلاجئين يوم الاثنين ، فإن بداية جهد انتقال أكبر لأعضاء مجموعة الأقلية الأفريكانية حيث يعلق ترامب برامج اللاجئين ويوقف الوافدين من أجزاء أخرى من العالم. يقول ترامب إن أفريكانيين يواجهون “إبادة جماعية” في وطنهم ، وهو ادعاء أنكرته حكومة جنوب إفريقيا بشدة.
في العديد من ردودها ، قام جروك بتربية كلمات أغنية قديمة مكافحة العنصرة التي كانت دعوة للشعب السود للوقوف ضد الاضطهاد وقد انتقد الآن المسك وآخرون الترويج لقتل البيض. كلمات الأغنية المركزية هي “Kill the Boer” – وهي كلمة تشير إلى مزارع أبيض.
قال Golbeck إنه كان من الواضح أن الإجابات كانت “مرمزة” لأنه ، على الرغم من أن مخرجات chatbot عادة ما تكون عشوائية للغاية ، فإن استجابات Grok تثير باستمرار نقاط متطابقة تقريبًا. وقالت إن هذا أمر مقلق في عالم يذهب فيه الناس بشكل متزايد إلى Grok ويتنافسون مع AI chatbots للحصول على إجابات على أسئلتهم.
وقالت: “نحن في مكان يسهل فيه الأمر بفظاعة للأشخاص المسؤولين عن هذه الخوارزميات لمعالجة نسخة الحقيقة التي يقدمونها”. “وهذا مشكلة حقًا عندما يعتقد الناس – بشكل غير صحيح – أن هذه الخوارزميات يمكن أن تكون مصادر الحكم على ما هو صحيح وما هو غير ذلك.”
قالت شركة Musk إنها تجري الآن عددًا من التغييرات ، بدءًا من نشر نظام Grok System بشكل علني على GitHub بحيث “سيكون الجمهور قادرًا على مراجعتها وتقديم ملاحظات على كل تغيير سريع نقدمه للاستعداد. نأمل أن يساعد ذلك في تعزيز ثقتك في Grok باعتباره من الذكاء الاصطناعي للواقع.”
مع الإشارة إلى أنه تم التحايل على عملية مراجعة التعليمات البرمجية الحالية ، قالت أيضًا إنها “ستضع فحوصات وتدابير إضافية لضمان عدم تمكن موظفي XAI من تعديل المطالبة دون مراجعة.” قالت الشركة إنها تضع أيضًا “فريق مراقبة على مدار الساعة طوال أيام الأسبوع للرد على الحوادث بأجوبة Grok التي لا يتم اكتشافها بواسطة الأنظمة الآلية” ، عندما تفشل التدابير الأخرى.