جلس إيليا سوتسكيفر لما يقرب من 10 ساعات للإدلاء بشهادته المسجلة بالفيديو في قضية ” ماسك ضد ألتمان “، في الأول من أكتوبر من هذا العام.
المؤسس المشارك الذي ساعد في بناء ChatGPT واشتهر بالتصويت لإقالة سام ألتمان في نوفمبر 2023، كان أخيرًا تحت القسم واضطر للإجابة. تم إصدار النسخة المكونة من 365 صفحة هذا الأسبوع.
ما يكشفه هو صورة لعلماء لامعين يتخذون قرارات حوكمة كارثية، وادعاءات لم يتم التحقق منها يتم التعامل معها على أنها حقائق، وانقسامات أيديولوجية عميقة للغاية لدرجة أن بعض أعضاء مجلس الإدارة فضلوا تدمير OpenAI بدلاً من السماح لها بالاستمرار تحت قيادة ألتمان.
ال المسك ضد ألتمان تتمحور الدعوى القضائية حول ادعاء إيلون ماسك بأن شركة OpenAI ورئيسها التنفيذي ألتمان، قد خانا مهمة الشركة الأصلية غير الربحية من خلال تحويل أبحاثها إلى مشروع ربحي متوافق مع مايكروسوفت، مما يثير أسئلة عالية المخاطر حول من يتحكم في نماذج الذكاء الاصطناعي المتقدمة وما إذا كان يمكن تطويرها بأمان لتحقيق المصلحة العامة.
بالنسبة لأولئك الذين يتابعون دراما OpenAI، فإن الوثيقة عبارة عن قراءة مذهلة ومذهلة. إنها دراسة حالة توضح كيف تسوء الأمور عندما تجتمع العبقرية التقنية مع عدم الكفاءة التنظيمية.
فيما يلي أهم خمسة اكتشافات.
1. الملف المؤلف من 52 صفحة والذي لم يشاهده الجمهور
كتب Sutskever حالة موسعة لإزالة Altman، مكتملة بلقطات شاشة، وتم تنظيمها في ملخص مكون من 52 صفحة.
شهد سوتسكيفر أنه قال صراحة في المذكرة: “يُظهر سام نمطًا ثابتًا من الكذب، وتقويض مسؤوليه التنفيذيين، وتحريض مسؤوليه التنفيذيين ضد بعضهم البعض”.
لقد أرسل المذكرة إلى المديرين المستقلين باستخدام تقنية البريد الإلكتروني المختفية “لأنني كنت قلقًا من تسرب تلك المذكرات بطريقة أو بأخرى”. لم يتم إنتاج الملخص الكامل عن طريق الاكتشاف.
“سياق هذه الوثيقة هو أن أعضاء مجلس الإدارة المستقلين طلبوا مني إعدادها. وقد فعلت ذلك. وقد كنت حذرًا جدًا،” شهد Sutskever، قائلًا إن أجزاء من المذكرة موجودة في لقطات الشاشة التي التقطتها OpenAI CTO Mira Murati.
2. لعبة شطرنج لمدة عام
وعندما سئل عن المدة التي كان يفكر فيها في إقالة ألتمان، أجاب سوتسكيفر: “عام على الأقل”.
وعندما سئل عن الديناميكيات التي كان ينتظرها، قال: “من الواضح أن غالبية أعضاء مجلس الإدارة ليسوا ودودين مع سام”.
الرئيس التنفيذي الذي يتحكم في تكوين مجلس الإدارة لا يمكن المساس به وظيفيًا. تظهر شهادة سوتسكيفر أنه فهم هذا الأمر تمامًا وقام بتعديل استراتيجيته وفقًا لذلك.
عندما خلقت مغادرة أعضاء مجلس الإدارة هذا الانفتاح، انتقل. لقد كان يمارس سياسات مجلس الإدارة على المدى الطويل، على الرغم من مدى التقارب الذي بدا علانية بين ألتمان وسوتسكيفر.
3. لقد اختفت تقريبًا عطلة نهاية الأسبوع OpenAI
في يوم السبت 18 نوفمبر 2023 – في غضون 48 ساعة من إقالة ألتمان – كانت هناك مناقشات نشطة حول دمج OpenAI مع Anthropic.
وكانت هيلين تونر، العضو السابق في مجلس إدارة OpenAI، “الأكثر دعمًا” لهذا الاتجاه، وفقًا لسوتسكيفر.
لو حدث الاندماج، لكان OpenAI قد توقف عن الوجود ككيان مستقل.
شهد سوتسكيفر: “لا أعرف ما إذا كانت هيلين هي التي تواصلت مع أنثروبيك أم أن أنثروبيك هي التي تواصلت مع هيلين”. “لكنهم توصلوا إلى اقتراح لدمجها مع OpenAI وتولي قيادتها.”
وقال سوتسكيفر إنه “غير سعيد للغاية بهذا الأمر”، مضيفًا لاحقًا أنه “لا يريد حقًا دمج OpenAI مع Anthropic”.
4. “تدمير OpenAI يمكن أن يكون متسقًا مع المهمة”
عندما حذر المسؤولون التنفيذيون في شركة OpenAI من أن الشركة ستنهار بدون ألتمان، رد تونر بأن تدمير OpenAI قد يكون متسقًا مع مهمة السلامة الخاصة بها.
وهذا هو القلب الأيديولوجي للأزمة. يمثل تونر أحد اتجاهات التفكير الآمن في مجال الذكاء الاصطناعي، والذي يرى أن التطوير السريع للذكاء الاصطناعي أمر خطير وجوديًا، وربما أكثر خطورة من عدم تطوير الذكاء الاصطناعي على الإطلاق.
شهد سوتسكيفر قائلاً: “لقد كان اجتماعًا مع أعضاء مجلس الإدارة والفريق التنفيذي – أخبر المديرون التنفيذيون مجلس الإدارة أنه إذا لم يعد سام، فسيتم تدمير OpenAI، وهذا لا يتوافق مع مهمة OpenAI”. “وقالت هيلين تونر شيئًا مفاده أنه متسق، لكنني أعتقد أنها قالت ذلك بشكل مباشر أكثر من ذلك.”
إذا كنت تعتقد حقًا أن OpenAI يشكل مخاطر تفوق فوائده، فإن ثورة الموظفين المعلقة لا أهمية لها. ويساعد هذا البيان في تفسير سبب صمود مجلس الإدارة حتى مع تهديد أكثر من 700 موظف بالمغادرة.
5. الحسابات الخاطئة: مصدر واحد لكل شيء، ومجلس إدارة عديم الخبرة وولاء للقوى العاملة يشبه العبادة
كل شيء تقريبًا في مذكرة سوتسكيفر المؤلفة من 52 صفحة جاء من شخص واحد: ميرا موراتي.
ولم يتحقق من المزاعم مع براد لايت كاب، أو جريج بروكمان، أو المديرين التنفيذيين الآخرين المذكورين في الشكاوى. لقد وثق بموراتي تماماً، ولم يخطر بباله التحقق.
قال سوتسكيفر: “لقد صدقت تمامًا المعلومات التي قدمتها لي ميرا”. “بعد فوات الأوان، أدركت أنني لم أكن أعرف ذلك. ولكن في ذلك الوقت، اعتقدت أنني أعرف ذلك. لكنني عرفت ذلك من خلال المعرفة المباشرة.”
عندما سُئل سوتسكيفر عن إجراءات مجلس الإدارة، كان صريحًا بشأن الخطأ الذي حدث.
وقال في شهادته: “الشيء الوحيد الذي يمكنني قوله هو أن العملية كانت سريعة”. “أعتقد أنه تم التسرع لأن مجلس الإدارة كان يفتقر إلى الخبرة.”
توقع Sutskever أيضًا أن يكون موظفو OpenAI غير مبالين بإزالة Altman.
وعندما وقع 700 من أصل 770 موظفًا على رسالة تطالب بعودة ألتمان ويهددون بالرحيل إلى مايكروسوفت، تفاجأ حقًا. لقد أخطأ بشكل أساسي في تقدير ولاء القوى العاملة وعزل مجلس الإدارة عن الواقع التنظيمي.
وقال سوتسكيفر: “لم أتوقع منهم أن يهتفوا، لكنني لم أتوقع أن يشعروا بقوة في كلتا الحالتين”.
