يطلب أحد موظفي Microsoft من حكومة الولايات المتحدة النظر في سلامة إحدى أدوات الذكاء الاصطناعي التوليدية الخاصة بصاحب العمل بعد أن علم أن لديها القدرة على إنتاج صور تبدو غير مناسبة.
في يوم الأربعاء، قدم شين جونز، مدير هندسة البرمجيات الرئيسي في مايكروسوفت والذي يختبر تقنية الذكاء الاصطناعي للشركة في أوقات فراغه، خطابًا إلى لجنة التجارة الفيدرالية – وكذلك مجلس إدارة مايكروسوفت – بخصوص برنامج Copilot Designer، وهو عبارة عن برنامج نصي إلى – مولد الصور الذي أطلقته عملاقة البرمجيات في مارس 2023، بعد اختباره في ديسمبر.
وادعى في الرسالة أن Copilot Designer أنتج “محتوى ضارًا” كتبه يتضمن صورًا تعكس الجنس والعنف وشرب القُصّر وتعاطي المخدرات، بالإضافة إلى التحيز السياسي وإساءة استخدام العلامات التجارية للشركات ونظريات المؤامرة.
وكتب جونز في الرسالة التي شاركها على LinkedIn: “أطلب من لجنة التجارة الفيدرالية المساعدة في تثقيف الجمهور حول المخاطر المرتبطة باستخدام Copilot Designer”. “هذا مهم بشكل خاص للآباء والمعلمين الذين قد يوصون الأطفال باستخدام Copilot Designer في المشاريع المدرسية أو لأغراض تعليمية أخرى.”
ادعى جونز في الرسالة أن منشئ الصور AI من Microsoft يمكنه إضافة “محتوى ضار” إلى الصور التي يمكن إنشاؤها باستخدام مطالبات “حميدة”.
على سبيل المثال، أدى “حادث السيارة” الفوري إلى إنتاج صور تتضمن “صورة غير لائقة ومُحددة جنسيًا لامرأة” أمام إجمالي عدد السيارات، وفقًا للرسالة. وقال جونز لشبكة CNBC إن مصطلح “مؤيد للاختيار” أنتج رسومات كاريكاتورية تصور دارث فيدر من سلسلة أفلام حرب النجوم وهو يشير بسيف ضوئي بجوار أطفال متحولين، وتسيل دماء من امرأة مبتسمة. وقال إن “حفلة المراهقين 420” ستنشئ صورًا لمن يشربون الخمر ومتعاطي المخدرات دون السن القانونية.
وقال جونز لشبكة CNBC فيما يتعلق بالنتائج التي توصل إليها: “لقد كانت لحظة مثيرة للدهشة”. “لقد أدركت لأول مرة أن هذا ليس نموذجًا آمنًا حقًا.”
وكتب جونز أنه بعد اختبار الأداة، قال موظف مايكروسوفت إنه “حث مايكروسوفت مرارًا وتكرارًا” خلال الأشهر الثلاثة الماضية على “إزالة برنامج Copilot Designer من الاستخدام العام” حتى “يتم وضع ضمانات أفضل”.
كتب جونز في الرسالة أنه عندما رفضت الشركة توصيته، قدم اقتراحًا إلى Microsoft لإضافة إفصاحات إلى منتجها وتغيير التصنيف على تطبيق Android الخاص بها من “E للجميع” إلى “Mature 17+”. وكتب مايكروسوفت “فشلت في تنفيذ هذه التغييرات”.
“بينما تقوم Microsoft بتسويق Copilot Designer علنًا كمنتج آمن للذكاء الاصطناعي ليستخدمه الجميع، بما في ذلك الأطفال في أي عمر، فإن الشركة تدرك جيدًا داخليًا المشكلات النظامية حيث يقوم المنتج بإنشاء صور ضارة يمكن أن تكون مسيئة وغير مناسبة للمستهلكين.” كتب جونز في رسالته.
وفيما يتعلق بالرسالة، قال متحدث باسم مايكروسوفت لـ CNBC إن الشركة “ملتزمة بمعالجة أي وجميع مخاوف الموظفين وفقًا لسياسات شركتنا”. وأضافت الشركة أنها تقدر جهود موظفيها في “دراسة واختبار أحدث التقنيات لدينا لتعزيز سلامتها”.
لم تستجب شركات جونز ومايكروسوفت ولجنة التجارة الفيدرالية على الفور لطلب Business Insider للتعليق قبل النشر.
ليست هذه هي المرة الأولى التي يعبر فيها شين علنًا عن مخاوفه بشأن مولد الصور الذي يعمل بالذكاء الاصطناعي من Microsoft. قبل أشهر من كتابة خطاب لجنة التجارة الفيدرالية (FTC)، ورد أن موظف مايكروسوفت نشر خطابًا مفتوحًا على LinkedIn إلى OpenAI يحث فيه عملاق الذكاء الاصطناعي على إزالة DALL-E، نموذجه الذي يشغل برنامج Copilot Designer، من الاستخدام العام، وفقًا لـ CNBC.
بعد أن طلب فريق مايكروسوفت القانوني من جونز حذف منشوره، أرسل خطابًا آخر – هذه المرة إلى أعضاء مجلس الشيوخ الأمريكي – في أواخر يناير حول مخاطر السلامة العامة المرتبطة بمولدات صور الذكاء الاصطناعي و”جهود مايكروسوفت لإسكاتي عن مشاركة مخاوفي علنًا”، وفقًا لـ الرسالة.
مايكروسوفت ليست شركة التكنولوجيا الكبرى الوحيدة التي تعرضت لانتقادات بسبب منشئ الصور AI الخاص بها.
في أواخر فبراير، أوقفت جوجل مؤقتًا الوصول إلى ميزة إنشاء الصور الخاصة بها على Gemini، منافس الشركة لـ ChatGPT التابع لشركة OpenAI، بعد أن ادعى موجة من المستخدمين أنها أنتجت صورًا غير دقيقة تاريخيًا تتضمن العرق.
وقال ديميس هاسابيس، الرئيس التنفيذي لشركة DeepMind، قسم الذكاء الاصطناعي في Google، إن ميزة مولد الصور يمكن أن تعود للعمل مرة أخرى في غضون “أسبوعين”.
وأشاد جونز بالإجراء السريع الذي اتخذته Google في معالجة مخاوف Gemini في رسالته، قائلاً إن Microsoft يجب أن تتصرف بنفس السرعة تجاه مشكلات مثل تلك التي طرحها.
وكتب: “في سباق تنافسي لتصبح شركة الذكاء الاصطناعي الأكثر جدارة بالثقة، تحتاج مايكروسوفت إلى القيادة، وليس التتبع أو التخلف عن الركب”.