لكن مقطع الفيديو الذي نشرته جوجل يوم الثلاثاء يُظهر أحد المخاطر الرئيسية للذكاء الاصطناعي: نصيحة خاطئة، وليست سيئة فقط. بعد دقيقة من ظهور الفيديو المبهج سريع الوتيرة، قدم Gemini AI في بحث Google خطأً واقعيًا رصدته The Verge لأول مرة.
يلتقط مصور فيديو لكاميرا الفيلم المعطلة ويسأل الجوزاء: “لماذا لا تتحرك الرافعة على طول الطريق”. يقدم جيميني قائمة من الحلول على الفور، بما في ذلك الحل الذي من شأنه تدمير جميع صوره.
يسلط فيديو القائمة الضوء على اقتراح واحد: “افتح الباب الخلفي وأزل الفيلم برفق إذا كانت الكاميرا محشورة”.
يعرف المصورون المحترفون – أو أي شخص استخدم كاميرا تصوير سينمائية – أن هذه فكرة رهيبة. قد يؤدي فتح الكاميرا في الخارج، حيث يتم تصوير الفيديو، إلى إتلاف بعض أو كل الفيلم من خلال تعريضه للضوء الساطع.
واجهت Google مشكلات مماثلة مع منتجات الذكاء الاصطناعي السابقة.
في العام الماضي، ذكر مقطع فيديو تجريبي من Google يُظهر برنامج Bard chatbot بشكل غير صحيح أن تلسكوب James Webb الفضائي كان أول من قام بتصوير كوكب خارج نظامنا الشمسي.
في وقت سابق من هذا العام، تعرض برنامج Gemini chatbot لانتقادات شديدة لرفضه إنتاج صور للأشخاص البيض. تم انتقاده لكونه “مستيقظًا” للغاية وقام بتطوير صور مليئة بالأخطاء التاريخية مثل النازيين الآسيويين والآباء المؤسسين السود. واعتذرت قيادة جوجل قائلة إنها “أخطأت الهدف”.
يسلط مقطع الفيديو الصادر يوم الثلاثاء الضوء على مخاطر روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، والتي تنتج الهلوسة، وهي تنبؤات غير صحيحة، وتقدم للمستخدمين نصائح سيئة. في العام الماضي، أبلغ مستخدمو Bing، برنامج الدردشة الآلي التابع لشركة Microsoft، عن تفاعلات غريبة مع الروبوت. لقد وصف المستخدمين بالوهم، وحاول تسليط الضوء عليهم بشأن العام الحالي، بل وأعلن حبه لبعض المستخدمين.
قد تكون الشركات التي تستخدم أدوات الذكاء الاصطناعي هذه أيضًا مسؤولة قانونيًا عما تقوله الروبوتات الخاصة بها. وفي فبراير/شباط، حمّلت محكمة كندية شركة طيران كندا المسؤولية عن قيام برنامج الدردشة الآلي الخاص بها بتزويد الركاب بمعلومات خاطئة حول خصومات الفجيعة.
لم تستجب Google على الفور لطلب التعليق الذي تم إرساله خارج ساعات العمل القياسية.