- يقول خبير الذكاء الاصطناعي غاري ماركوس إن شركة OpenAI قد تضطر إلى أن تصبح شركة مراقبة لكسب المال.
- ويمكن الاستفادة من الذكاء الاصطناعي لتعزيز جهود المراقبة. إنه سيناريو يسميه “الأورويلي”.
- وقال إن موظفي الشركة يجب أن يعبروا عن مخاوفهم.
في الأدب الحديث، ربما اشتهرت رواية 1984 لجورج أورويل بتنبيه قراءها إلى مخاطر المراقبة الجماعية. تدور أحداث الرواية البائسة في عالم متخيل حيث يقوم “حزب” كلي العلم بمراقبة سكانه باستمرار.
يقول خبير الذكاء الاصطناعي، غاري ماركوس، إن الشركة التي تشكل سباق التسلح العالمي للذكاء الاصطناعي على وشك التحول تصور أورويل إلى واقع.
وقال في مناقشة مع بيتر نورفيج المخضرم في جوجل في مركز ستانفورد للذكاء الاصطناعي الذي يركز على الإنسان الأسبوع الماضي: “أعتقد أن OpenAI ستصبح الشركة الأكثر أورويلية على الإطلاق”. “ما سيتم الضغط عليهم للقيام به هو أن يصبحوا شركة مراقبة.”
ماركوس أكاديمي ومؤلف العديد من الكتب، بما في ذلك “إعادة تشغيل الذكاء الاصطناعي: بناء ذكاء اصطناعي يمكننا الوثوق به”، ومؤخرا “ترويض وادي السيليكون”.
لقد نمت شركة OpenAI بشكل بارز، جزئيًا، من خلال منح الشركات إمكانية الوصول إلى نماذج وموارد الذكاء الاصطناعي الخاصة بها. لكن ماركوس يعتقد أن الشركة لن تكون قادرة على كسب ما يكفي من المال لدعم تقييمها بهذه الطريقة لأن التكنولوجيا ليست متقدمة بما فيه الكفاية.
وقال لـBusiness Insider في رسالة مباشرة على X: “لقد باعت OpenAI حلم الذكاء الاصطناعي العالمي لجميع الأغراض، وفي عام 2023، أجرت كل شركة كبيرة تقريبًا دراسات تجريبية حول هذه الفرضية. ولكن في عام 2024، ظهرت الكثير من التقارير من هذا المجال”. تدور حول خيبة الأمل: التكنولوجيا ليست موثوقة بدرجة كافية حتى الآن للإنتاج، لأنها تعاني من مشاكل مثل الهلوسة والأخطاء الفادحة، لذا بدأت العديد من الشركات في توخي الحذر.
ومع ذلك، هناك طريقة أخرى لكسب المال: المراقبة. يمكن للذكاء الاصطناعي تجميع كميات هائلة من البيانات بسرعة، مما يساعد أي شخص يستطيع أن يدفع ثمنها على تمشيط البيانات – سواء كانت وكالة حكومية تحقق مع مواطنيها أو حملة سياسية تستهدف ناخبين محددين.
ويشك ماركوس في أن شركة OpenAI ستستفيد في النهاية من مصدر الدخل المحتمل هذا وتصبح شركة مراقبة قوية.
وقد أثيرت من قبل مخاوف من إمكانية استخدام تقنيات OpenAI لتعزيز جهود المراقبة. وفي شهر يونيو، أعلنت شركة OpenAI أنها قامت بذلك عين مدير وكالة الأمن القومي السابق بول ناكاسوني إلى مجلس إدارتها، الذي أثار طوفانًا من الانتقادات. ووصف المخبر الأمريكي إدوارد سنودن التعيين بأنه “خيانة محسوبة لحقوق كل شخص على وجه الأرض”.
وأضاف سنودن في ذلك الوقت في منشور على موقع X أن “تقاطع الذكاء الاصطناعي مع محيط بيانات المراقبة الجماعية التي تراكمت على مدى العقدين الماضيين سيضع قوى رهيبة حقًا في أيدي قلة غير خاضعة للمساءلة”.
وحث ماركوس موظفي الشركة على التعبير عن مخاوفهم وقال: “لا أريد أن أكون جزءًا من هذا”.
هذه ليست المرة الأولى التي ينتقد فيها ماركوس OpenAI. بعد لقائه بالرئيس التنفيذي سام ألتمان في الكابيتول هيل العام الماضي، كان منبهرًا ومتشككًا في نفس الوقت، مشيرًا إلى أن ألتمان لم يبدو “صادقًا في مخاوفه” بشأن احتمال أن تسبب التكنولوجيا ضررًا.
وفي وقت سابق من هذا العام، قال إنه لا يزال يأمل أن يتمكن ألتمان من إعادة الشركة إلى المسار الصحيح باعتبارها “قوة من أجل الخير”. الآن، هو ليس متأكدا من ذلك.
وقال لـ BI: “في الأشهر القليلة الماضية، سقط القناع بالفعل، وأنا أشك بشدة في أنه سيعود إلى المهمة على الإطلاق”، في إشارة إلى خطة الشركة لإعادة هيكلة أعمالها. “إن الوعد المقدم للمستثمرين بالتحول إلى مؤسسة هادفة للربح يعني في الأساس أن السفينة قد أبحرت.”
لم تستجب OpenAI على الفور لطلب التعليق من Business Insider.