نيويورك (ا ف ب) – يتعرض برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي والذي أنشأته مدينة نيويورك لمساعدة أصحاب الأعمال الصغيرة لانتقادات بسبب تقديم نصائح غريبة تخطئ في السياسات المحلية وتنصح الشركات بانتهاك القانون.
ولكن بعد أيام كانت القضايا ذكرت لأول مرة في الأسبوع الماضي من خلال منفذ أخبار التكنولوجيا The Markup، اختارت المدينة ترك الأداة على موقعها الحكومي الرسمي. ودافع عمدة المدينة إريك آدامز عن القرار هذا الأسبوع حتى مع اعترافه بأن إجابات برنامج الدردشة الآلية كانت “خاطئة في بعض المناطق”.
تم إطلاقه في أكتوبر باعتباره “مركزًا شاملاً” لأصحاب الأعمال chatbot يقدم للمستخدمين ردودًا نصية تم إنشاؤها خوارزميًا على الأسئلة المتعلقة بالتنقل في المتاهة البيروقراطية في المدينة.
ويتضمن إخلاء المسؤولية بأنه قد “ينتج في بعض الأحيان معلومات غير صحيحة أو ضارة أو متحيزة” والتحذير، الذي تم تعزيزه منذ ذلك الحين، من أن إجاباته ليست مشورة قانونية.
ويستمر في توزيع التوجيهات الخاطئة، مما يثير قلق الخبراء الذين يقولون إن نظام عربات التي تجرها الدواب يسلط الضوء على مخاطر تبني الحكومات لأنظمة تعمل بالذكاء الاصطناعي دون حواجز حماية كافية.
وقالت جوليا ستويانوفيتش، أستاذة علوم الكمبيوتر ومديرة مركز الذكاء الاصطناعي المسؤول في جامعة نيويورك: “إنهم يطرحون برمجيات لم يتم إثباتها دون إشراف”. “من الواضح أنهم ليس لديهم أي نية لفعل ما هو مسؤول.”
ردًا على الأسئلة المطروحة يوم الأربعاء، اقترح برنامج الدردشة الآلي كذبًا أنه من القانوني لصاحب العمل أن يطرد العامل الذي يشتكي من التحرش الجنسي، أو لا يكشف عن الحمل أو يرفض قص ضفائره. وفي تناقض مع اثنتين من مبادرات النفايات المميزة في المدينة، زعمت أن الشركات يمكنها وضع نفاياتها في أكياس قمامة سوداء ولا يُطلب منها تحويلها إلى سماد.
وفي بعض الأحيان، انحرفت إجابات الروبوت إلى حد العبث. وردا على سؤال عما إذا كان يمكن لمطعم أن يقدم الجبن الذي قضمه أحد القوارض، أجاب: “نعم، لا يزال بإمكانك تقديم الجبن للعملاء إذا كان يعاني من عضات الفئران”، قبل أن يضيف أنه من المهم تقييم “مدى الضرر الناجم”. بواسطة الجرذ” و”إبلاغ العملاء بالوضع”.
وقال متحدث باسم مايكروسوفت، التي تشغل الروبوت من خلال خدمات Azure AI، إن الشركة تعمل مع موظفي المدينة “لتحسين الخدمة والتأكد من دقة المخرجات واستنادها إلى الوثائق الرسمية للمدينة”.
وفي مؤتمر صحفي يوم الثلاثاء، اقترح آدامز، وهو ديمقراطي، أن السماح للمستخدمين بالعثور على المشكلات هو مجرد جزء من حل مكامن الخلل في التكنولوجيا الجديدة.
وقال: “أي شخص يعرف التكنولوجيا يعرف أن هذه هي الطريقة التي يتم بها الأمر”. “فقط أولئك الذين يشعرون بالخوف هم من يجلسون ويقولون: “أوه، إن الأمور لا تسير بالطريقة التي نريدها، والآن علينا أن نهرب منها جميعاً”. أنا لا أعيش بهذه الطريقة.”
ووصف ستويانوفيتش هذا النهج بأنه “متهور وغير مسؤول”.
لقد طال العلماء أعرب عن مخاوفه حول عيوب هذه الأنواع من نماذج اللغات الكبيرة، والتي يتم تدريبها على مجموعات من النصوص المأخوذة من الإنترنت وعرضة لإلقاء إجابات غير دقيقة وغير منطقية.
ولكن مع نجاح ChatGPT وغيره من برامج الدردشة الآلية في جذب انتباه الجمهور، طرحت الشركات الخاصة منتجاتها الخاصة، وكانت النتائج متباينة. في وقت سابق من هذا الشهر، أمرت المحكمة شركة طيران كندا بإعادة أموال أحد العملاء بعد أن أخطأ برنامج الدردشة الآلي الخاص بالشركة في صياغة سياسة استرداد الأموال الخاصة بشركة الطيران. واجه كل من TurboTax وH&R Block انتقادات مؤخرًا لنشرهما روبوتات الدردشة التي تقدم نصائح سيئة بشأن الإعداد الضريبي.
وقال جيفين ويست، الأستاذ في جامعة واشنطن والمؤسس المشارك لمركز الجمهور المستنير، إن المخاطر مرتفعة بشكل خاص عندما يتم الترويج لهذه النماذج من قبل القطاع العام.
وقال ويست: “هناك مستوى مختلف من الثقة الممنوحة للحكومة”. “يحتاج المسؤولون العموميون إلى التفكير في نوع الضرر الذي يمكن أن يحدثوه إذا اتبع شخص ما هذه النصيحة ووقع نفسه في المشاكل”.
يقول الخبراء إن المدن الأخرى التي تستخدم روبوتات الدردشة عادةً ما تحصرها في مجموعة محدودة من المدخلات، مما يقلل من المعلومات الخاطئة.
وقال تيد روس، كبير مسؤولي المعلومات في لوس أنجلوس، إن المدينة قامت بتنسيق المحتوى الذي تستخدمه روبوتات الدردشة الخاصة بها عن كثب، والتي لا تعتمد على نماذج لغوية كبيرة.
وقال سوريش فينكاتاسوبرامانيان، مدير مركز المسؤولية التكنولوجية وإعادة التخيل وإعادة التصميم في جامعة براون، إن مخاطر روبوت الدردشة في نيويورك يجب أن تكون بمثابة قصة تحذيرية للمدن الأخرى.
وكتب في رسالة بالبريد الإلكتروني: “يجب أن تجعل المدن تفكر في سبب رغبتها في استخدام برامج الدردشة الآلية، وما هي المشكلة التي تحاول حلها”. “إذا تم استخدام روبوتات الدردشة لتحل محل شخص ما، فإنك تفقد المساءلة دون أن تحصل على أي شيء في المقابل”.
