يسلط الانقطاع الهائل لتكنولوجيا المعلومات الذي هز الشركات في جميع أنحاء العالم الضوء على مدى الترابط العميق بين المجتمع والأنظمة التي تدعمه وشركات التكنولوجيا الكبرى – وكيف يمكن لخطوة خاطئة واحدة أن تؤدي إلى فوضى واسعة النطاق.
كما أنها تكشف عن هشاشة هذه الأنظمة وتثير السؤال التالي: هل تستحق شركات التكنولوجيا الكبرى ثقتنا في حماية تقنية قوية مثل الذكاء الاصطناعي؟
حدثت مشكلة البرمجيات في تحديث من شركة الأمن السيبراني CrowdStrike يوم الجمعة، وأدت إلى انقطاع تكنولوجيا المعلومات في Microsoft مما أدى إلى تعطيل شركات الطيران والبنوك وتجار التجزئة وخدمات الطوارئ ومقدمي الرعاية الصحية في جميع أنحاء العالم. تم نشر إصلاح للبرنامج، وفقًا لـ CrowdStrike، لكن العديد من الأنظمة كانت لا تزال غير متصلة بالإنترنت يوم الجمعة حيث تكافح الشركات لإعادة خدماتها عبر الإنترنت، والتي تطلب بعضها تحديثات يدوية.
وقال جاري ماركوس، باحث في مجال الذكاء الاصطناعي ومؤسس شركة Geometric Intelligence، وهي شركة ناشئة في مجال التعلم الآلي والذكاء الاصطناعي استحوذت عليها شركة أوبر في عام 2016، لموقع Business Insider إن انقطاع خدمة Microsoft-CrowdStrike يجب أن يكون بمثابة “جرس إنذار” للمستهلكين – وأن تأثير مشكلة مماثلة مع الذكاء الاصطناعي سيكون عشرة أضعاف.
“إذا كان خطأ واحد قادر على إسقاط شركات الطيران والبنوك وتجار التجزئة والمنافذ الإعلامية وغيرها، فما الذي يجعلك تعتقد أننا جاهزون للذكاء الاصطناعي العام؟” كتب ماركوس في منشور على X.
الذكاء الاصطناعي العام، المعروف أيضًا باسم الذكاء الاصطناعي العام، هو مصطلح يشير إلى نسخة من الذكاء الاصطناعي يمكنها تحقيق القدرات البشرية مثل التفكير والحكم. وقد توقع جون شولمان، المؤسس المشارك لشركة OpenAI، سابقًا أن هذا لن يستغرق سوى بضع سنوات.
وقال ماركوس، الذي كان ينتقد OpenAI في الماضي، لـ BI إن ذلك قد يكون مشكلة مع الأنظمة الحالية المعمول بها، حيث يقوم المستهلكون بتسليم كميات هائلة من الطاقة لشركات التكنولوجيا الكبرى والذكاء الاصطناعي.
دان أوداود، مؤسس مجموعة الدفاع عن السلامة، The Dawn Project، شن حملة ضد أنظمة القيادة الذاتية لشركة Tesla. وقال لموقع BI إن الموقف مع CrowdStrike وMicrosoft هو تذكير بأن البنى التحتية الحيوية ليست آمنة أو موثوقة بما فيه الكفاية. وقال إن شركات التكنولوجيا الكبرى تقيم الأنظمة بناءً على ما إذا كانت تعمل “بشكل جيد في معظم الأوقات”، لأن هناك اندفاعًا لطرح المنتجات في السوق.
وقد أصبح بعض ذلك واضحًا بالفعل عندما يتعلق الأمر بالذكاء الاصطناعي.
لقد أطلقت الشركات في مختلف المجالات طوفانًا من منتجات وعروض الذكاء الاصطناعي في الأشهر الستة الماضية، وقد بدأ بعضها في تحويل طريقة عمل الناس. لكن نماذج الذكاء الاصطناعي، المعرضة للهلوسة، قد خرجت أيضًا ببعض الأخطاء التي حظيت بتغطية إعلامية واسعة النطاق على طول الطريق، مثل نظرة عامة على الذكاء الاصطناعي من Google، والتي أخبرت المستخدمين بتناول البيتزا بالغراء، أو تصوير Gemini غير الدقيق لشخصيات تاريخية.
كما تناوبت الشركات على الإعلان عن منتجات جديدة مبهرة ثم تأجيلها أو التراجع عنها لأنها لم تكن جاهزة – أو عندما تكشف عمليات الإطلاق العامة عن مشكلات. فقد تراجعت كل من OpenAI وMicrosoft وGoogle وAdobe عن عروض الذكاء الاصطناعي أو أرجأتها هذا العام مع احتدام سباق الذكاء الاصطناعي.
ورغم أن بعض هذه الأخطاء أو تأخيرات المنتج قد لا تبدو بمثابة مشكلة كبيرة، إلا أن المخاطر المحتملة قد تكون أكثر خطورة مع تقدم التكنولوجيا.
أصدرت وزارة الخارجية الأميركية تقريرا لتقييم المخاطر المتعلقة بالذكاء الاصطناعي، والذي نُشر في وقت سابق من هذا العام. وأشار التقرير إلى أن الذكاء الاصطناعي يشكل خطرا كبيرا من حيث إمكانية تسليحه، والذي قد يتخذ شكل حرب بيولوجية، أو هجمات إلكترونية جماعية، أو حملات تضليل، أو روبوتات مستقلة. وقال التقرير إن النتائج قد تؤدي إلى “مخاطر كارثية” بما في ذلك انقراض البشر.
وقال جواد عابد، الأستاذ المساعد لنظم المعلومات في كلية كاري للأعمال بجامعة جونز هوبكنز، لـ Business Insider إن الحوادث مثل انقطاع خدمة Microsoft-CrowdStrike لا تزال تحدث لأن الشركات لا تزال تنظر إلى الأمن السيبراني باعتباره “تكلفة وليس استثمارًا ضروريًا”. وقال إن شركات التكنولوجيا الكبرى يجب أن يكون لديها بائعون بديلون واستراتيجية دفاع متعددة الطبقات.
وقال عابد “إن استثمار مليون دولار إضافي في مثل هذا الجانب الحاسم من الأمن السيبراني هو أكثر حكمة من مواجهة الخسارة المحتملة لملايين الدولارات في وقت لاحق، إلى جانب الضرر المستمر للسمعة وثقة العملاء”.
وفقًا لدراسة أجرتها مؤسسة بروكينجز عام 2023، وهي منظمة غير ربحية للسياسات العامة، فقد انخفضت ثقة الجمهور في المؤسسات بشكل مطرد على مدى السنوات الخمس الماضية. ويتجلى هذا التآكل في الثقة بشكل خاص في قطاع التكنولوجيا. وشهدت شركات التكنولوجيا الكبرى، بما في ذلك فيسبوك وأمازون وجوجل، أكبر انخفاض في الثقة، مع انخفاض متوسط في تقييمات الثقة بنسبة 13٪ إلى 18٪، وفقًا لمؤسسة بروكينجز.
ومن المرجح أن يستمر اختبار هذه الثقة مع مواجهة المستهلكين والعاملين في الشركات المتضررة من انقطاع تكنولوجيا المعلومات لحقيقة مفادها أن تحديث البرنامج الخاطئ قد يتسبب في توقف الأمور بشكل مفاجئ.
وقال سانجاي باتنايك، مدير معهد بروكينجز، لصحيفة بيزنس إنسايدر إن الحكومة فشلت في تنظيم وسائل التواصل الاجتماعي والذكاء الاصطناعي بشكل صحيح. وأضاف أنه في غياب الدفاعات الكافية، قد تصبح التكنولوجيا تهديدًا للأمن القومي.
وقال باتنايك إن شركات التكنولوجيا الكبرى كانت تتمتع “بحرية التصرف”، وأضاف: “واليوم هو اليوم الذي بدأت فيه الشركات تدرك ذلك”.
واتفق ماركوس على أنه لا يمكن الوثوق بالشركات بمفردها لبناء البنية التحتية الموثوقة، ويجب أن يكون الانقطاع بمثابة تذكير بأننا “نلعب لعبة مزدوجة أو لا شيء عندما نسمح لأنظمة الذكاء الاصطناعي بأن تكون غير منظمة”.