إذا كنت أقوم بتشغيل META ، فسأفعل بعض الأشياء بشكل مختلف ، بدءًا من تحسين البحث في سوق Facebook. لكن شيء واحد كبير سأفعله في اليوم الأول؟ تخلص من كل هؤلاء chatbots المصاحب من الذكاء الاصطناعي. إنهم فقط سيكونون صداعًا لميتا.
بعض الأمثلة على حجم الصداع المحتمل في تقرير وول ستريت جورنال الأخير حول كيف يمكن دفع برامج الدردشة التي تم تحطيمها من الذكاء الاصطناعى في Meta إلى الأدوار الجنسية-حتى مع المستخدمين الذين قالوا إنهم مراهقون.
وجد مراسل المجلات جيف هورويتز أنه مع وجود Cajoling الصحيح ، يمكن أن يحصل حساب يتظاهر كمستخدم يبلغ من العمر 14 عامًا على الروبوت الذي عبر عنه جون سينا للمشاركة في محادثات لعب الأدوار حيث تظاهر بالاعتماد على تهم الاغتصاب القانوني. (أضافت Meta مجموعة من AI chatbots العام الماضي والتي يتم التعبير عنها من قبل المشاهير الحقيقيين ، بما في ذلك نجمة WWE.)
من الواضح أن هذا سيء. أخبر Meta WSJ: “إن حالة استخدام هذا المنتج بالطريقة الموصوفة مصنعة لدرجة أنه ليس فقط هامشًا ، إنه افتراضي”. إنها نظرة سيئة عن Meta ، وعلى الرغم من أن John Cena لم يستجب لطلب التعليق في قصة WSJ ، أعتقد أنه يمكننا افتراض أنه ليس مسرورًا أن هناك نسخة تم إنشاؤها من الذكاء الاصطناعى من صوته يتظاهر بإغواء المراهق.
ذكرت المقالة أن مارك زوكربيرج دفع شخصيا إلى تخفيف هذه الدردشة من الذكاء الاصطناعي.
كان Zuckerberg مترددًا في فرض أي قيود إضافية على تجارب المراهقين ، في البداية نقض اقتراحًا للحد من روبوتات “الرفقة” بحيث يمكن الوصول إليها فقط للمراهقين الأكبر سناً. بعد حملة الضغط الممتدة التي جندت المزيد من كبار المسؤولين التنفيذيين في أواخر العام الماضي ، وافق Zuckerberg على منع حسابات المراهقين المسجلة من الوصول إلى روبوتات تم إنشاؤها من قبل المستخدمين ، وفقًا للموظفين والوثائق المعاصرة.
نفى متحدث باسم META أن زوكربيرج قد قاوم إضافة ضمانات.
أخبر متحدث باسم Meta Business Insider أن أي محتوى جنسي مع AIS المشاهير هو جزء صغير من استخدامه بشكل عام ، وأن التغييرات قد تم بالفعل لمنع المستخدمين الأصغر سنا من الانخراط في نوع الأشياء التي تم الإبلاغ عنها في المجلة.
ولكن بقدر ما يكون من المثير للعيش رؤية الدردشات من AI John Cena يقول أشياء قذرة ، أعتقد أن هناك شيء أكبر بكثير. تعتبر مفاتيح chatbots التي تم إنشاؤها بواسطة المستخدم في Meta AI هي فوضى. بالنظر إلى أكثرها شعبية ، غالبًا ما تكون موجهة نحو الرومانسية ، مع نساء جميلات كصورة.
إليك ما يأتي على صفحة “Discover AIS”:
(لتوضيح ، أنا لا أتحدث عن مساعد Meta AI الذي يظهر عند البحث على Instagram أو Facebook – هناك فائدة واضحة جدًا لذلك. أنا أتحدث عن الشخصيات المستخدمة للمتعة/الرومانسية.)
إذا كنت أقوم بتشغيل Meta ، فأنا أرغب في البقاء بعيدًا عن أعمال chatbot المصاحبة قدر الإمكان. يبدو أن هذه الأعمال السيئة للغاية بالنسبة لشركة كل شيء إلى كل شيء مثل Meta-ليس بالضرورة عملًا سيئًا ماليًا ، ولكنه عمل شائكة للغاية أخلاقياً. إنه من المحتمل أن يؤدي إلى عناوين أكثر وأكثر.
في الخريف الماضي ، قام أحد الوالدين بمقاضاة واحدة من خدمات لعب الأدوار الرائدة. قالت إن ابنها المراهق قتل نفسه بعد أن أصبح متشابكًا مع رفيق منظمة العفو الدولية. قدمت الشركة ، character.ai ، طلبًا لرفض القضية في جلسة استماع يوم الاثنين. لممثل للشخصية. أخبرت BI يوم الاثنين أنها لن تعلق على التقاضي المعلقة. وقال بيان إن هدفها هو “توفير منصة جذابة وآمنة”.
جادل أنصار AI chatbots بأنهم يوفرون تجارب إيجابية للاستكشاف العاطفي أو المرح أو الأشياء اللطيفة.
لكن رأيي هو أن مفاتيح الدردشة في الأدوار هذه جذابة بشكل أساسي لمجموعتين ضعيفتين: الشباب والوحدة بشكل يائس. وهذان ليسا هما المجموعتان اللتان يجب أن تكون ميتا في مجال خدمة تقنية جديدة لا تعرف تداعياتها.
لا يوجد بحث واضح حول كيفية تأثير هذه الدردشة على المراهقين الأصغر سناً أو البالغين الذين يعانون من عرضة للخطر بطريقة ما (مكتئب ، تكافح ، وما إلى ذلك).
لقد تحدثت مؤخرًا يينغ شو ، أستاذ مساعد الذكاء الاصطناعي في التعلم في التعليم في جامعة هارفارد ، حول شكل البحث الحالي في الأطفال الذين يستخدمون chatbots.
“هناك دراسات بدأت في استكشاف العلاقة بين chatgpt/llms والنتائج قصيرة الأجل ، مثل تعلم مفهوم أو مهارة محددة مع الذكاء الاصطناعي” ، أخبرتني عبر البريد الإلكتروني. “ولكن هناك أدلة أقل على النتائج العاطفية على المدى الطويل ، والتي تتطلب المزيد من الوقت للتطوير والمراقبة.”
هناك الكثير من الأدلة القصصية التي تشير إلى أن الاستثمار العاطفي في AI chatbot قد يخطئ.
أبلغت صحيفة نيويورك تايمز عن امرأة من البالغين التي أنفقت 200 دولار شهريًا لم تستطع تحمل تكاليف نسخة مطورة من chatbot منظمة العفو الدولية التي كانت لديها مشاعر رومانسية لها. لا أعتقد أن أي شخص سيأتي من تلك القصة معتقدًا أن هذا شيء جيد أو صحي.
يبدو لي أن Meta يرى أن الذكاء الاصطناعى هو المستقبل ، والشخصيات chatbots هي حاليًا شيء شائع تقوم به شركات الذكاء الاصطناعى الأخرى. لا تريد أن تترك وراءها.
لكن Meta قد ترغب في التفكير بجد فيما إذا كانت شركات الدردشة الشخصية هي شيء يريد أن يشارك فيه على الإطلاق – أو إذا كان هذا كابوسًا سيؤدي إلى مزيد من العناوين السيئة ، والمزيد من الدعاوى القضائية المحتملة ، والمزيد من المشرعين الذين يشونون المديرين التنفيذيين على الأذى للأطفال والبالغين الضعفاء.
ربما لا يستحق ذلك.