يطلب الموظفون السابقون في Openai من كبار ضباط إنفاذ القانون في كاليفورنيا وديلاوير منع الشركة من تحويل السيطرة على تكنولوجيا الذكاء الاصطناعي من مؤسسة خيرية غير ربحية إلى عمل ربحي.
إنهم قلقون بشأن ما يحدث إذا كان صانع ChatGpt يفي طموحه ببناء الذكاء الاصطناعى الذي يتفوق على البشر ، لكنه لم يعد مسؤولاً أمام مهمتها العامة لحماية تلك التكنولوجيا من التسبب في أضرار خطيرة.
وقال بيج هيدلي ، مستشار السياسة والأخلاقيات السابقة في Openai ، في مقابلة مع وكالة أسوشيتيد برس: “في النهاية ، أنا قلق بشأن من يملك ويتحكم في هذه التكنولوجيا بمجرد إنشاؤها”.
بدعم من ثلاثة من الفائزين بجائزة نوبل وغيرهم من المدافعين والخبراء ، أرسل هيدلي وتسعة عمال آخرون سابقين آخرين خطابًا هذا الأسبوع إلى محامين الدولة.
يطلب الائتلاف المدعي العام في كاليفورنيا روب بونتا ومحامي ديلاوير العام كاثي جينينغز ، وكلاهما من الديمقراطيين ، لاستخدام سلطتهما لحماية الغرض الخيري في Openai ومنع إعادة الهيكلة المخططة. تم دمج Openai في ديلاوير ويعمل من سان فرانسيسكو.
وقال أوبياي رداً على أن “أي تغييرات على هيكلنا الحالي ستكون في خدمة ضمان الاستفادة من الجمهور الأوسع من الذكاء الاصطناعي.” وقالت إن الهادفة للربح ستكون شركة ذات فائدة عامة ، على غرار مختبرات منظمة العفو الدولية الأخرى مثل الملياردير للتكنولوجيا ، إيلون موسك ، باستثناء أن Openai لا يزال يحافظ على ذراع غير ربحية.
وقالت الشركة في بيان “سيستمر هذا الهيكل في التأكد من أنه مع نجاح الربح وينمو ، وكذلك الحال بالنسبة للمنظمة غير الربحية ، مما يتيح لنا تحقيق المهمة”.
الرسالة هي العريضة الثانية لمسؤولي الدولة هذا الشهر. جاء الأخير من مجموعة من قادة العمالة والمنظمات غير الربحية التي تركز على حماية مليارات الدولارات في Openai من الأصول الخيرية.
وقالت جينينغز إن الخريف الماضي ستستمر في مراجعة أي معاملة من هذا القبيل لضمان حماية مصالح الجمهور بشكل كاف “. سعى مكتب بونتا إلى مزيد من المعلومات من Openai في أواخر العام الماضي ، لكنه قال إنه لا يمكن التعليق ، حتى للتأكيد أو رفضه إذا كان يحقق.
بدأ المؤسسون المشاركين في Openai ، بما في ذلك الرئيس التنفيذي الحالي Sam Altman و Musk ، في الأصل كمختبر أبحاث غير ربحية في مهمة لبناء ما يُعرف بأمان الذكاء العام الاصطناعي ، أو AGI، من أجل فائدة الإنسانية. بعد ما يقرب من عقد من الزمان ، أبلغت Openai عن قيمتها السوقية بمبلغ 300 مليار دولار ويحدث 400 مليون مستخدم أسبوعيًا لـ ChatGPT ، منتجه الرائد.
لدى Openai بالفعل شركة تابعة للربح ولكنها تواجه عددًا من التحديات في تحويل هيكل الحوكمة الأساسي. واحد هو دعوى قضائية من المسك، الذي يتهم شركة و Altman بخيانة المبادئ التأسيسية التي دفعت الرئيس التنفيذي لشركة Tesla إلى الاستثمار في المؤسسة الخيرية.
في حين أن بعض الموقعين على خطاب هذا الأسبوع يدعمون دعوى Musk ، قال هيدلي إن الآخرين “ساخرون بشكل مفهوم” لأن Musk يدير أيضًا شركة منافسة الذكاء الاصطناعى.
تشمل الموقعين اثنين من الاقتصاديين الحائزين على نوبل ، أوليفر هارت وجوزيف ستيغليتز ، وكذلك رواد الذكاء الاصطناعي و علماء الكمبيوتر جيفري هينتون، الذي فاز العام الماضي جائزة نوبل في الفيزياء، وستوارت راسل.
وقال هينتون في بيان يوم الأربعاء: “أحب مهمة Openai المتمثلة في” التأكد من أن الذكاء العام الاصطناعي يفيد البشرية جمعاء “، وأود أن يقوموا بتنفيذ تلك المهمة بدلاً من إثراء مستثمريهم”. “أنا سعيد أن هناك جهد لعقد Openai لمهمته لا يشمل Elon Musk.”
لقد انهارت الصراعات حول الغرض من Openai منذ فترة طويلة في معهد سان فرانسيسكو ، مما ساهم في استقالة Musk في عام 2018 ، Altman's الإطاحة قصيرة الأجل في عام 2023 وغيرها من المغادرة البارزة.
عملت هيدلي ، وهي محامية عن طريق التدريب ، في Openai في عامي 2017 و 2018 ، وهو وقت كانت فيه المنظمة غير الربحية لا تزال تتنقل أفضل الطرق لإشراف التكنولوجيا التي أرادت بناءها. في الآونة الأخيرة في عام 2023 ، قال Altman إن الذكاء الاصطناعى المتقدم قد حذر ولكنه حذر أيضًا من مخاطر غير عادية ، من الحوادث الشديدة إلى الاضطرابات المجتمعية.
ومع ذلك ، في السنوات الأخيرة ، قال هيدلي إنه شاهد بقلق على أنه Openai ، الذي مدعومًا بنجاح Chatgpt ، يقطع زوايا متزايدة على اختبار السلامة وتجاوز منتجات جديدة للتقدم عن منافسي الأعمال.
وقال “تكاليف هذه القرارات ستستمر في الارتفاع حيث تصبح التكنولوجيا أكثر قوة”. “أعتقد أنه في الهيكل الجديد الذي يريده Openai ، فإن الحوافز التي تندفع لاتخاذ هذه القرارات سترتفع ولن يكون هناك أي شخص يمكن أن يخبرهم بعدم ذلك ، أخبرهم أن هذا ليس على ما يرام.”
وقال مهندس البرمجيات Anish Tondwalkar ، وهو عضو سابق في الفريق الفني في Openai حتى العام الماضي ، إن التأكيد الهام في ميثاق Openai غير الربحي هو “بند التوقف والمساعد” الذي يوجه Openai إلى الانحناء والمساعدة إذا كانت منظمة أخرى تقترب من تحقيق أفضل من AI البشرية.
وقال توندوارار في بيان يوم الأربعاء: “إذا سمح لـ Openai بأن تصبح ربحية ، فإن هذه الضمانات ، وواجب Openai تجاه الجمهور يمكن أن تختفي بين عشية وضحاها”.
عامل سابق آخر وقع على الرسالة يضعها بصراحة.
وقال نيسان ستينس ، مهندس منظمة العفو الدولية ، الذي عمل في Openai من 2018 إلى 2020: “قد يقوم Openai في يوم من الأيام ببناء تقنية يمكن أن تجعلنا جميعًا قتلنا جميعًا. إنه من المفترض أن يسيطر عليه منظمات غير ربحية من غير الربحية واجب على الإنسانية. هذا الواجب يمنع التخلي عن هذا السيطرة”.
___
لدى وكالة أسوشيتيد برس و Openai اتفاقية ترخيص وتكنولوجيا يتيح ذلك الوصول إلى Openai إلى جزء من أرشيفات النص AP.