من السابق لأوانه تحديد ما تعنيه عمليات المغادرة الكبيرة في OpenAI بالنسبة للشركة، أو ما إذا كان Sam Altman يخطط لاستبدال الأشخاص في هذه الأدوار بموظفين جدد. لكن هذا ليس يومًا رائعًا بالنسبة للمتشائمين الذين يعتمدون على الذكاء الاصطناعي.
قال إيليا سوتسكيفر، أحد مؤسسي OpenAI، وكبير العلماء في الشركة، يوم الثلاثاء إنه “اتخذ قرارًا بترك OpenAI”. واصفًا إياه بأنه “شرف وامتياز للعمل معًا” مع ألتمان وطاقمه، انسحب سوتسكيفر من هذا الدور، قائلاً إنه “واثق من أن OpenAI ستبني الذكاء الاصطناعي العام الآمن والمفيد”.
وجاء الرحيل المفاجئ من جانب جان لايكي، وهو أحد كبار المسؤولين التنفيذيين في شركة OpenAI. في ليلة الثلاثاء، نشر Leike تأكيدًا صريحًا من كلمتين لخروجه من OpenAI على X: “لقد استقلت”.
قاد Leike وSutskever فريق المحاذاة الفائقة في OpenAI، والذي شهد عددًا من حالات المغادرة الأخرى في الأشهر الأخيرة.
قالت OpenAI عن المحاذاة الفائقة في منشور بتاريخ 5 يوليو 2023 على موقعها على الإنترنت: “نحن بحاجة إلى اختراقات علمية وتقنية لتوجيه أنظمة الذكاء الاصطناعي والتحكم فيها بشكل أكثر ذكاءً منا”. “لحل هذه المشكلة في غضون أربع سنوات، بدأنا فريقًا جديدًا، بقيادة إيليا سوتسكيفر وجان ليك، وخصصنا 20% من الحوسبة التي حصلنا عليها حتى الآن لهذا الجهد.”
ويترتب على ذلك أن جزءًا من عمل الثنائي، على حد تعبير OpenAI، كان “التأكد من أن أنظمة الذكاء الاصطناعي الأكثر ذكاءً من البشر تتبع النوايا البشرية”.
وحقيقة عدم وجود مثل هذه الضوابط حتى الآن هي مشكلة اعترفت بها OpenAI، وفقًا لمنشورها في يوليو 2023.
“في الوقت الحالي، ليس لدينا حل لتوجيه أو التحكم في الذكاء الاصطناعي الفائق الذكاء ومنعه من أن يصبح مارقًا. تقنياتنا الحالية لمواءمة الذكاء الاصطناعي، مثل تعزيز التعلم من ردود الفعل البشرية“، تعتمد على قدرة البشر على الإشراف على الذكاء الاصطناعي،” اقرأ منشور OpenAI. “لكن البشر لن يكونوا قادرين على الإشراف بشكل موثوق على أنظمة الذكاء الاصطناعي بشكل أكثر ذكاءً منا، وبالتالي فإن تقنيات المحاذاة الحالية لدينا لن ترقى إلى مستوى الذكاء الفائق. نحن بحاجة إلى اختراقات علمية وتقنية جديدة.”
كان لدى Leike – الذي عمل في DeepMind من Google قبل عمله في OpenAI – تطلعات كبيرة للحفاظ على سلامة البشر من الذكاء الفائق الذي أنشأناه.
قال لايكي في حلقة أغسطس 2023 من البرنامج الإذاعي “80 ألف ساعة”: “يبدو أن لدينا هذه المشكلة الصعبة التي كنا نتحدث عنها لسنوات وسنوات، والآن لدينا فرصة حقيقية لحلها فعليًا”.
في كتابه Substack، أوضح Leike كيف يمكن حل مشكلة المحاذاة – عندما لا تتصرف الآلات وفقًا لنوايا البشر – وما هو مطلوب لحلها.
وكتب لايكي في مارس 2022: “ربما يكون الحل النهائي لمشكلة المحاذاة موجودًا في مساحة المشكلات التي يمكن للبشر حلها. لكن ربما لا، من خلال محاولة حل المشكلة برمتها، ربما نحاول للحصول على شيء ليس في متناول أيدينا، بدلاً من ذلك، يمكننا متابعة هدف أقل طموحًا والذي لا يزال من الممكن أن يقودنا في النهاية إلى حل، وهو منتج قابل للتطبيق (MVP) للمواءمة: بناء نظام ذكاء اصطناعي متوافق بشكل كافٍ يعمل على تسريع أبحاث المواءمة. لمواءمة أنظمة الذكاء الاصطناعي الأكثر قدرة.”
لم يستجب Sutskever وLeike وممثلو OpenAI على الفور لطلبات التعليق من Business Insider، والتي تم إرسالها خارج ساعات العمل العادية.