تدعو مجموعة من العاملين الحاليين والسابقين في OpenAI صانع ChatGPT وشركات الذكاء الاصطناعي الأخرى إلى حماية الموظفين المبلغين عن المخالفات الذين يشيرون إلى مخاطر السلامة المتعلقة بتكنولوجيا الذكاء الاصطناعي.
تطلب رسالة مفتوحة نُشرت يوم الثلاثاء من شركات التكنولوجيا إنشاء حماية أقوى للمبلغين عن المخالفات حتى يتمكن الباحثون من إثارة المخاوف بشأن تطوير أنظمة الذكاء الاصطناعي عالية الأداء داخليًا ومع الجمهور دون خوف من الانتقام.
قال دانييل كوكوتاجلو، الموظف السابق في OpenAI، والذي ترك الشركة في وقت سابق من هذا العام، في بيان مكتوب إن شركات التكنولوجيا “تتجاهل مخاطر وتأثير الذكاء الاصطناعي” بينما تتسابق لتطوير أنظمة ذكاء اصطناعي أفضل من الإنسان تُعرف باسم الذكاء العام الاصطناعي.
وكتب: “قررت ترك OpenAI لأنني فقدت الأمل في أنهم سيتصرفون بمسؤولية، خاصة أنهم يسعون إلى الذكاء العام الاصطناعي”. “لقد اقتنعوا هم وآخرون بنهج “التحرك بسرعة وكسر الأشياء” وهذا هو عكس ما هو مطلوب لتكنولوجيا بهذه القوة ومفهومة بشكل سيء”.
قالت OpenAI في بيان ردًا على الرسالة إن لديها بالفعل إجراءات للموظفين للتعبير عن مخاوفهم، بما في ذلك خط ساخن مجهول للنزاهة.
وجاء في بيان الشركة: “نحن فخورون بسجلنا الحافل في توفير أنظمة الذكاء الاصطناعي الأكثر قدرة والأكثر أمانًا ونؤمن بنهجنا العلمي لمعالجة المخاطر”. “نحن نتفق على أن النقاش الدقيق أمر بالغ الأهمية نظرا لأهمية هذه التكنولوجيا وسنواصل التعامل مع الحكومات والمجتمع المدني والمجتمعات الأخرى في جميع أنحاء العالم.”
تحتوي الرسالة على 13 موقعًا، معظمهم موظفون سابقون في OpenAI واثنان يعملان أو يعملان في DeepMind من Google. تم إدراج أربعة منهم كموظفين حاليين مجهولين في OpenAI. تطلب الرسالة من الشركات التوقف عن إجبار العمال على الدخول في اتفاقيات “عدم الانتقاص” التي يمكن أن تعاقبهم إذا انتقدوا الشركة.
أدى غضب وسائل التواصل الاجتماعي بشأن اللغة المستخدمة في الأوراق الخاصة بشركة OpenAI للعمال المغادرين إلى قيام الشركة مؤخرًا بإطلاق سراح جميع موظفيها السابقين من اتفاقيات عدم الاستخفاف الخاصة بهم.
تحظى الرسالة المفتوحة بدعم علماء الذكاء الاصطناعي الرائدين يوشوا بنجيو وجيفري هينتون، اللذين فازا معًا بأعلى جائزة في علوم الكمبيوتر، وستيوارت راسل. وقد حذر الثلاثة من المخاطر التي قد تشكلها أنظمة الذكاء الاصطناعي المستقبلية على وجود البشرية.
تأتي الرسالة في الوقت الذي قالت فيه OpenAI إنها بدأت في تطوير الجيل التالي من تقنية الذكاء الاصطناعي خلف ChatGPT و تشكيل لجنة أمنية جديدة مباشرة بعد خسارة مجموعة من القادة، بما في ذلك المؤسس المشارك ايليا سوتسكيفر، الذين كانوا جزءًا من فريق يركز على تطوير أقوى أنظمة الذكاء الاصطناعي بأمان. لقد خاض مجتمع أبحاث الذكاء الاصطناعي الأوسع معركة طويلة حول خطورة مخاطر الذكاء الاصطناعي على المدى القصير والطويل كيفية التوفيق بينها وبين تسويق التكنولوجيا.
وقد ساهمت هذه الصراعات في الإطاحة بالرئيس التنفيذي لشركة OpenAI، سام ألتمان، وعودته السريعة العام الماضي، وما زالت تغذي هذه الصراعات. عدم الثقة في قيادته.
وفي الآونة الأخيرة، أثار عرض منتج جديد غضب نجمة هوليوود سكارليت جوهانسون، التي قالت إنها صُدمت عندما سمعت صوت ChatGPT يبدو “مشابهًا بشكل مخيف” لصوتها على الرغم من رفضها سابقًا لطلب ألتمان بإعارة صوتها للنظام.
——-
وكالة أسوشيتد برس وOpenAI اتفاقية الترخيص والتكنولوجيا الذي يسمح لـ OpenAI بالوصول إلى جزء من أرشيفات النصوص الخاصة بـ AP.