تراجعت شركة جوجل عن استخدام الإجابات التي تم إنشاؤها بواسطة الذكاء الاصطناعي في نتائج البحث بعد أن ارتكبت الميزة بعض الأخطاء الشائنة، بما في ذلك مطالبة المستخدمين بوضع الغراء في صلصة البيتزا الخاصة بهم.
أطلقت Google منذ أسبوعين ميزة AI Overviews، والتي تضع ملخصات نتائج البحث التي تم إنشاؤها بواسطة الذكاء الاصطناعي في أعلى الصفحة للمستخدمين الأمريكيين. خلال الأيام القليلة الماضية، لاحظ المستخدمون، بما في ذلك خبير تحسين محركات البحث، عددًا أقل من النظرات العامة حول الذكاء الاصطناعي واشتبهوا في أن عملاق التكنولوجيا كان يخفضهم قليلاً بعد الانتقادات. لا يمكن إيقاف تشغيل ميزة الذكاء الاصطناعي أثناء استخدام محرك البحث.
وأكدت ليز ريد، رئيسة قسم البحث في جوجل، في تدوينة يوم الخميس أن الشركة تعالج بعض هذه المشكلات.
تأتي هذه التغييرات بعد الأمثلة الأخيرة على النظرات العامة حول الذكاء الاصطناعي التي أصبحت غير واضحة – والصور المزيفة لهذه الميزة – غمرت الإنترنت. وتضمنت هذه الردود ردودًا تزعم أن باراك أوباما كان رئيسًا مسلمًا، وأن أفريقيا ليس بها دول تبدأ بالحرف K، وأن الناس يجب أن يأكلوا “حجرًا صغيرًا واحدًا على الأقل يوميًا”.
تتضمن حواجز الحماية الجديدة من Google الكشف عن “الاستعلامات غير المنطقية” التي لا ينبغي أن تعرض نتائج الذكاء الاصطناعي، والحد من المحتوى الساخر أو الفكاهي، وإدخال قيود على المطالبات حيث لن تكون نتائج الذكاء الاصطناعي مفيدة لأنه لا توجد بيانات كافية حول هذا الموضوع.
تُظهر إعلانات Google الخاصة أن الملخصات الخاطئة لا تقتصر على عدد قليل من الاستعلامات الفيروسية. في مقطع فيديو تجريبي تم إصداره قبل أسبوعين، نصحت ميزة النظرة العامة الممثل بشكل خاطئ حول كيفية إصلاح كاميرا الفيلم الخاصة به.
وذكر منشور مدونة ريد أيضًا أن Google لديها محتوى محدود من المنتديات أو وسائل التواصل الاجتماعي، وهو ما قد يحتوي على نصائح مضللة.
وكتب ريد في المنشور: “المنتديات غالبًا ما تكون مصدرًا رائعًا للمعلومات الحقيقية والمباشرة، ولكن في بعض الحالات يمكن أن تؤدي إلى نصائح أقل من مفيدة، مثل استخدام الغراء لجعل الجبن يلتصق بالبيتزا”.
كتب ريد ذلك تمتلك الشركة بالفعل أنظمة معمول بها لعدم عرض الأخبار التي تم إنشاؤها بواسطة الذكاء الاصطناعي أو النتائج المتعلقة بالصحة. وقالت إن النتائج الضارة التي شجعت الناس على التدخين أثناء الحمل أو ترك كلابهم في السيارات هي “لقطات شاشة مزيفة”.
تعد قائمة التغييرات أحدث مثال على إطلاق شركة Big Tech لمنتج الذكاء الاصطناعي والعودة إلى القيود بعد أن أصبحت الأمور فوضوية.
في وقت سابق من هذا العام، تعرضت ميزة إنشاء الصور الخاصة بشركة Google AI لانتقادات شديدة بسبب رفض إنتاج الصور من الناس البيض. تم انتقاده لكونه “مستيقظًا” للغاية ويلتقط صورًا به مغالطات تاريخية مثل النازيين الآسيويين والآباء المؤسسين السود. في تدوينة وبعد بضعة أسابيع، اعتذرت قيادة Google وأوقفت الميزة مؤقتًا.