- أعاد إيلون موسك حساب تحليله للتكلفة والعائد لمخاطر الذكاء الاصطناعي على البشرية.
- ويقدر أن هناك فرصة بنسبة 10-20% أن يتمكن الذكاء الاصطناعي من تدمير البشرية، ولكن يجب علينا بنائه على أي حال.
- صرح أحد خبراء سلامة الذكاء الاصطناعي لـ BI أن ماسك يقلل من خطر وقوع كارثة محتملة.
إيلون ماسك متأكد تمامًا من أن الذكاء الاصطناعي يستحق المخاطرة، حتى لو كان هناك احتمال بنسبة 1 من 5 أن تتحول التكنولوجيا ضد البشر.
وفي حديثه في ندوة “مناظرة عظيمة حول الذكاء الاصطناعي” في قمة الوفرة التي استمرت أربعة أيام في وقت سابق من هذا الشهر، أعاد ” ماسك ” حساب تقييمه السابق للمخاطر المتعلقة بالتكنولوجيا، قائلاً: “أعتقد أن هناك فرصة ما في أنها ستؤدي إلى إنهاء البشرية. وربما أتفق مع جيف هينتون إنه حوالي 10% أو 20% أو شيء من هذا القبيل.”
لكنه أضاف: “أعتقد أن السيناريو الإيجابي المحتمل يفوق السيناريو السلبي”.
ولم يذكر ” ماسك ” كيف حسب المخاطر.
ما هو ع (العذاب)؟
قال رومان يامبولسكي، الباحث في سلامة الذكاء الاصطناعي ومدير مختبر الأمن السيبراني بجامعة لويزفيل، لموقع Business Insider، إن ماسك محق في قوله إن الذكاء الاصطناعي يمكن أن يشكل خطراً وجودياً على البشرية، ولكن “إذا كان هناك أي شيء، فهو محافظ للغاية بعض الشيء”. “في تقييمه.
وقال يامبلوسكي في إشارة إلى “الموت الفعلي أعلى بكثير في رأيي”. “احتمال الهلاك” أو احتمال سيطرة الذكاء الاصطناعي على البشرية أو التسبب في حدث ينهي البشرية، مثل إنشاء سلاح بيولوجي جديد أو التسبب في انهيار المجتمع بسبب هجوم إلكتروني واسع النطاق أو حرب نووية.
وصفت صحيفة نيويورك تايمز الموت بأنه “الإحصاء الجديد المروع الذي يجتاح وادي السيليكون”، حيث استشهد المنفذ بالعديد من المديرين التنفيذيين للتكنولوجيا على أن لديهم تقديرات تتراوح بين 5 إلى 50٪ لنهاية العالم التي يقودها الذكاء الاصطناعي. يامبلوفسكي يضع المخاطرة “بنسبة 99.999999%“.
وقال يامبلوسكي إنه لأنه سيكون من المستحيل السيطرة على الذكاء الاصطناعي المتقدم، فإن أملنا الوحيد هو ألا نبنيه في المقام الأول.
وأضاف يامبلوسكي: “لست متأكداً من سبب اعتقاده أن متابعة هذه التكنولوجيا فكرة جيدة على أي حال”. “إذا كان قلقًا بشأن وصول المنافسين إلى هناك أولاً، فلا يهم، لأن الذكاء الفائق غير المنضبط سيئ بنفس القدر، بغض النظر عمن يخرج إلى الوجود.”
“مثل طفل ذكي مثل الله”
في تشرين الثاني (نوفمبر) الماضي، قال ماسك إن هناك فرصة “ليست صفرًا” لأن تصبح التكنولوجيا في نهاية المطاف “سيئة”، لكنه لم يذهب إلى حد القول إنه يعتقد أن التكنولوجيا يمكن أن تؤدي إلى إنهاء البشرية إذا حدث ذلك.
على الرغم من أنه كان من المدافعين عن تنظيم الذكاء الاصطناعي، إلا أن ماسك أسس العام الماضي شركة تسمى xAI، مكرسة لزيادة توسيع قوة التكنولوجيا. xAI هي منافس لشركة OpenAI، وهي شركة شارك Musk في تأسيسها مع Sam Altman قبل تنحي Musk عن مجلس الإدارة في عام 2018.
في القمة، قدر ماسك أن الذكاء الرقمي سيتجاوز كل الذكاء البشري مجتمعًا بحلول عام 2030. وبينما يؤكد أن الإيجابيات المحتملة تفوق السلبيات، أقر ماسك بالمخاطر التي يتعرض لها العالم إذا استمر تطوير الذكاء الاصطناعي في مساره الحالي في بعض أكثر المجالات المباشرة المصطلحات التي استخدمها علانية.
“أنت نوعًا ما تنمو الذكاء الاصطناعي العام. قال ” ماسك ” في حدث وادي السيليكون في 19 مارس، في إشارة إلى الذكاء العام الاصطناعي: “إن الأمر يشبه تربية طفل تقريبًا، ولكنه يشبه عبقري خارق، مثل طفل ذكي مثل الله – ومن المهم كيف تربي الطفل”. “أحد الأشياء التي أعتقد أنها مهمة للغاية لسلامة الذكاء الاصطناعي هو أن يكون لديك أقصى قدر من البحث عن الحقيقة والذكاء الاصطناعي الفضولي.”
قال ماسك إن “استنتاجه النهائي” فيما يتعلق بأفضل طريقة لتحقيق سلامة الذكاء الاصطناعي هو تنمية الذكاء الاصطناعي بطريقة تجبره على أن يكون صادقًا.
وقال ماسك عن أفضل طريقة لإبقاء البشر في مأمن من التكنولوجيا: “لا تجبرهم على الكذب، حتى لو كانت الحقيقة غير سارة”. “إنه أمر مهم للغاية. لا تجعل الذكاء الاصطناعي يكذب.”
وقد وجد الباحثون أنه بمجرد أن يتعلم الذكاء الاصطناعي الكذب على البشر، فمن المستحيل عكس السلوك الخادع باستخدام تدابير السلامة الحالية للذكاء الاصطناعي، حسبما ذكرت صحيفة الإندبندنت.
وجاء في الدراسة التي استشهد بها المنفذ: “إذا أظهر النموذج سلوكًا خادعًا بسبب المحاذاة الخادعة للأدوات أو تسمم النموذج، فإن تقنيات التدريب على السلامة الحالية لن تضمن السلامة ويمكن أن تخلق انطباعًا خاطئًا عن السلامة”.
والأمر الأكثر إثارة للقلق هو أن الباحثين أضافوا أنه من المعقول أن الذكاء الاصطناعي قد يتعلم الخداع من تلقاء نفسه بدلاً من تعليمه الكذب على وجه التحديد.
“إذا أصبح أكثر ذكاءً منا بكثير، فسيكون جيدًا جدًا في التلاعب لأنه كان سيتعلم ذلك منا”، هينتون، الذي يشار إليه غالبًا باسم “الأب الروحي للذكاء الاصطناعي”، والذي يعمل كأساس لـ ” ماسك ” لتقييم المخاطر. التكنولوجيا، حسبما قال سي إن إن. “وهناك أمثلة قليلة جدًا لشيء أكثر ذكاءً يتم التحكم فيه بواسطة شيء أقل ذكاءً.”
لم يستجب ممثلو Musk على الفور لطلب التعليق من Business Insider.