تخيل أنك مدير صندوق التحوط الذي يحاول الحصول على ميزة. لتحقيق أقصى قدر من العائدات، عليك أن تقرر تثبيت أحدث التقنيات التي تسمح للكمبيوتر بتفسير الرياح المتغيرة للسوق وتقديم آلاف الطلبات في أجزاء من الثانية. يساعد البرنامج على تعزيز صندوقك لفترة من الوقت، ولكن الإثارة الأولية تتحول إلى رعب عندما تشاهد البرنامج وهو يفسد ويشتري مئات الملايين من الأسهم في أقل من ساعة. تسعى شركتك جاهدة لإيقاف عمليات التداول، لكنها لا تستطيع ذلك، وفجأة تواجه خسائر فادحة، كل ذلك بسبب خوارزمية سيئة التثبيت.
يبدو ديستوبيا، أليس كذلك؟ لكن هذا السيناريو الكارثي ليس مجرد افتراض مثير للقلق بشأن التهديد المتزايد للذكاء الاصطناعي؛ لقد حدث ذلك بالفعل منذ أكثر من عقد من الزمن عندما أدى خطأ في الترميز إلى خسائر بقيمة 440 مليون دولار لشركة Knight Capital، مما دفع الشركة في النهاية إلى بيع نفسها بخصم كبير.
“الذكاء الاصطناعي” ليس “المستقبل” – إنه مجرد مصطلح تسويقي لنسخة محدثة قليلاً من الأتمتة التي تحكم حياتنا لسنوات. لقد تنقلت الشركات بين سلسلة من الأسماء لتتناسب مع تقنياتها – الأتمتة، والخوارزميات، والتعلم الآلي، والآن الذكاء الاصطناعي – ولكن في النهاية، تتلخص هذه الأنظمة جميعها في نفس الفكرة: تسليم عملية صنع القرار إلى أجهزة الكمبيوتر لتنفيذ المهام بسرعة. أسرع بكثير مما يستطيع الإنسان. في حين أن هناك مخاوف متزايدة من أن سلالة جديدة من الذكاء الاصطناعي سوف تصيب حياتنا اليومية، وتؤدي إلى عاطلين عن العمل، وتقلب المجتمع بشكل عام، فإن معظم الناس لا يدركون مدى عمق صنع القرار المحوسب في كل جانب من جوانب الحياة. وجودنا. تعتمد هذه الأنظمة على مجموعات البيانات والقواعد التي يعلمهم إياها البشر، ولكن سواء كان ذلك يتعلق بكسب المال في الأسواق أو إمدادنا بالأخبار، فإن المزيد والمزيد من حياتنا تقع في أيدي أنظمة رقمية غير خاضعة للمساءلة.
وفي كثير من الحالات، أثبتت هذه الخوارزميات فائدتها للمجتمع. لقد ساعدوا في القضاء على المهام الدنيوية أو تكافؤ الفرص. ولكن على نحو متزايد، تتخذ الخوارزميات التي تدعم حياتنا الرقمية قرارات مشكوك فيها والتي تثري الأقوياء وتدمر حياة الناس العاديين. لا يوجد سبب للخوف من اتخاذ الذكاء الاصطناعي القرارات نيابةً عنك في المستقبل، فأجهزة الكمبيوتر تقوم بذلك بالفعل منذ بعض الوقت.
كانت شبكة الإنترنت المبكرة عبارة عن تجربة منسقة بشريًا نسبيًا – مجموعة متباينة من صفحات الويب التي لم يكن من الممكن اكتشافها إلا إذا كنت تعرف عنوان الموقع أو رأيت رابطًا إليه على موقع آخر. تغير ذلك في يونيو 1993، عندما أنشأ الباحث ماثيو جراي واحدًا من أول “روبوتات الويب”، وهي خوارزمية بدائية مصممة “لقياس حجم الويب”. ساعد اختراع جراي في إنشاء محركات البحث وألهم مجموعة من اللاحقين – Jump Station، وExcite، وYahoo، وما إلى ذلك. في عام 1998، حقق طلاب جامعة ستانفورد، سيرجي برين ولاري بايج، القفزة التالية في أتمتة الإنترنت عندما نشروا بحثًا أكاديميًا حول “محرك بحث ويب واسع النطاق للنصوص التشعبية” يسمى Google. تناولت الورقة بالتفصيل كيف حكمت خوارزمية “PageRank” الخاصة بهم على أهمية نتيجة الويب بناءً على استعلام المستخدم، حيث تخدم الموقع الأكثر صلة بناءً على عدد مواقع الويب الأخرى المرتبطة به – وهو الأمر الذي كان منطقيًا جدًا على نطاق أصغر بكثير وأكثر. الإنترنت الأبرياء.
ولكن في مكان ما على طول الطريق، تحولت صناعة التكنولوجيا من التشغيل الآلي المفيد للوظائف التي أبطأت حياتنا إلى تشويه المجتمع من خلال تسليم القرارات الحاسمة لأجهزة الكمبيوتر.
بعد ما يقرب من ثلاثة عقود من تأسيس جوجل، أصبح الإنترنت أكثر آلية. لقد جاء هذا مع الكثير من الفوائد للأشخاص العاديين – تساعدنا التوصيات على Spotify وNetflix في العثور على فن جديد، ويمكن للمستثمرين الآليين المساعدة في تنمية بيضة صغيرة بتكلفة منخفضة، وقد صنعت التطبيقات الصناعية مثل الروبوتات المستخدمة في تصنيع العديد من المركبات الحديثة اقتصادنا أكثر كفاءة. ولكن في مكان ما على طول الطريق، تحولت صناعة التكنولوجيا من التشغيل الآلي المفيد للوظائف التي أبطأت حياتنا إلى تشويه المجتمع من خلال تسليم القرارات الحاسمة لأجهزة الكمبيوتر.
في كثير من النواحي، تبدو ورقة جوجل الأصلية وكأنها تحذير مظلم. وتقول إن محركات البحث الممولة بالإعلانات ستكون “منحازة بطبيعتها” تجاه هؤلاء المعلنين. ربما ليس من المفاجئ إذن أن يجد الباحثون أنه من خلال إعطاء الأولوية لأموال الإعلانات على النتائج المفيدة، فإن خوارزمية Google تزداد سوءًا، مما يؤدي إلى تدهور مصدر مهم للمعلومات لأكثر من 5 مليارات شخص. ولا يقتصر الأمر على محركات البحث فقط. لقد تعلمت الخوارزميات التي تركز على الإيرادات وراء شبكات مثل Facebook وInstagram وTikTok وTwitter كيفية تغذية المستخدمين بتدفق مستمر من المحتوى المزعج أو الغاضب لجذب تفاعل المستخدم. ومع تضاؤل السيطرة البشرية، تراكمت العواقب المترتبة على هذه الخوارزميات في العالم الحقيقي: فقد ارتبطت خوارزمية إنستغرام بأزمة الصحة العقلية لدى الفتيات المراهقات. اعترف تويتر بأن تقنيته تميل إلى تضخيم التغريدات من السياسيين اليمينيين والمؤثرين ومصادر الأخبار، وقد ازداد الأمر سوءًا منذ أن اشترى إيلون ماسك الموقع. استخدمت كامبريدج أناليتيكا خوارزمية لسحب بيانات فيسبوك لاستهداف ملايين الأشخاص بشكل مفرط في الفترة التي سبقت تصويت المملكة المتحدة لمغادرة الاتحاد الأوروبي والانتخابات الرئاسية الأمريكية لعام 2016.
ساعدت الخوارزميات التي كان من المفترض أن تجعل العمل أسهل أو تجعل الموظفين أكثر إنتاجية، في ترجيح كفة الاقتصاد ضد العمال ذوي الياقات الزرقاء والأشخاص الملونين. تتخذ شركات مثل أمازون قرارات التوظيف والفصل بناءً على أهواء الآلة الحاسبة الرائعة. يحصل العملاء على نهاية عصا الذكاء الاصطناعي أيضًا: وجد تحقيق أجرته وكالة Associated Press وThe Markup عام 2019 أن الخوارزميات المستخدمة في اتخاذ قرارات القروض كانت متحيزة للغاية ضد الأشخاص الملونين، مع احتمال رفض المقرضين للسود بنسبة 80٪. المتقدمين من المتقدمين البيض مماثلة.
وتنتقل هذه المشاكل إلى القطاع العام، مما يؤدي إلى تسميم الخدمات الحكومية بالتحيزات الخوارزمية. واجهت حكومة المملكة المتحدة فضيحة وطنية في عام 2020 عندما استبدل المسؤولون ما يقرب من 40% من اختبارات المستوى A للطلاب – وهو اختبار حاسم يمكن أن يحدد قدرة الطالب على الذهاب إلى الجامعة – بدرجات تم اختيارها خوارزميًا. وقد سلطت النتائج الضوء بشكل كبير على طلاب المدارس الحكومية البريطانية المجانية، وفضلت بدلا من ذلك أولئك الذين ذهبوا إلى المدارس الخاصة في المناطق الغنية، مما أدى إلى حالة من الفوضى في حياة العديد من الشباب. عاقبت خوارزمية “التعلم الذاتي” التي استخدمتها هيئة الضرائب الهولندية، بشكل خاطئ، عشرات الآلاف من الأشخاص بدعوى الاحتيال على نظام رعاية الأطفال في البلاد، مما دفع الناس إلى الفقر وأدى إلى إيداع الآلاف من الأطفال في دور الحضانة. في الولايات المتحدة، وجدت ProPublica في تحقيق عام 2016 أن الخوارزمية المستخدمة في أنظمة محاكم الولايات المتعددة للحكم على مدى احتمالية ارتكاب شخص ما لجريمة في المستقبل كانت متحيزة ضد الأمريكيين السود، مما أدى إلى أحكام أشد من القضاة.
لقد قمنا، عبر القطاعين العام والخاص، بتسليم المفاتيح لشبكة عنكبوتية من الخوارزميات التي تم إنشاؤها مع القليل من المعرفة العامة حول كيفية اتخاذ قراراتهم. هناك بعض المقاومة لهذا التسلل – تسعى لجنة التجارة الفيدرالية (FTC) إلى تنظيم كيفية استخدام الشركات للخوارزميات، لكنها لم تفعل ذلك بشكل هادف بعد. وعلى نطاق أوسع، يبدو أن الحكومات استسلمت للسماح للآلات بأن تحكم حياتنا.
وكما هو الحال مع الضفدع الذي يغلي في وعاء من الماء، فإن الاستيلاء البطيء على الخوارزميات لم يلاحظه عامة الناس في الغالب. من السهل أن تفوت تعديلًا صغيرًا على خوارزمية Instagram أو حتى تحتفل ببرنامج الضرائب الذي يبسط عملية تقديمك. لكن الآن، وبفضل الموجة الجديدة من “الذكاء الاصطناعي”، بدأ الناس يلاحظون مدى سخونة المياه. ويعني الحماس الذي يغذيه المستثمرون أن كل شركة كبرى تقريبًا تدرس أو تدمج بنشاط الذكاء الاصطناعي التوليدي – ومعظمه متواضع في أحسن الأحوال – في خدماتها. ومع استمرار دورة الضجيج حول الذكاء الاصطناعي، فإننا نتجه نحو موت الإنترنت المفيد.
لقد قمنا، عبر القطاعين العام والخاص، بتسليم المفاتيح لشبكة عنكبوتية من الخوارزميات التي تم إنشاؤها مع القليل من المعرفة العامة حول كيفية اتخاذ قراراتهم.
تم تصميم النماذج اللغوية الكبيرة مثل تلك الموجودة خلف ChatGPT وGemini من Google لاستخلاص المعلومات من الإنترنت ومحركات البحث المختلفة المتاحة للعامة. يمثل هذا مشكلة نظرًا لأن الويب أصبح ممتلئًا بشكل متزايد بالصفحات العامة المصممة للتلاعب بنظام تحسين محركات البحث (SEO) بدلاً من تقديم معلومات مفيدة. العديد من المواقع تم إنشاؤها بواسطة الذكاء الاصطناعي، مما أدى إلى إنشاء مجموعة من المعلومات المتواضعة وغير الموثوقة. لنأخذ على سبيل المثال Quora، موقع الأسئلة والأجوبة الذي كان محبوبًا في السابق بسبب الإجابات عالية الجودة التي يقدمها المستخدمون. تقدم Quora الآن إجابات تم إنشاؤها بواسطة ChatGPT الخاص بـ OpenAI، والتي تغذي نتائج Google التوليدية وتخبر المستخدمين في النهاية أنه يمكنهم إذابة البيض. وبينما يستبدل المديرون التنفيذيون المنفصلون المحررين البشريين بالذكاء الاصطناعي – كما فعلت مايكروسوفت مع موقع MSN.com، مما أدى إلى تقديم معلومات مضللة لأكثر من مليار شخص شهريًا – فسوف ندخل في دورة حيث تدرب النماذج التوليدية نفسها على بقايا الإنترنت المسموم بالبرمجيات الخبيثة. المحتوى التوليدي. حتى المجال البشري المفترض لوسائل التواصل الاجتماعي أصبح غارقًا في رسائل البريد الإلكتروني العشوائية التي تعتمد على الذكاء الاصطناعي، مما حول X وFacebook وReddit وInstagram إلى معركة مستمرة ضد المعلومات المضللة وعمليات الاحتيال الصريحة.
في حين أن الذكاء الاصطناعي التوليدي هو مجرد امتداد أحدث للخوارزمية، إلا أنه يشكل تهديدًا فريدًا. في السابق، كان البشر يتحكمون في المدخلات ويضعون قواعد المشاركة للنماذج بينما تقوم أجهزة الكمبيوتر بإنتاج المخرجات. نحن الآن نسمح لهذه النماذج بأن تحدد لنا قواعد اللعبة، وتولد المدخلات والمخرجات. لقد بدأنا بالفعل في رؤية بعض الآثار الضارة: في عام 2023، استبدلت الجمعية الوطنية لاضطرابات الأكل موظفي خط المساعدة البشريين التابعين لها ببرنامج دردشة آلي يعمل بالذكاء الاصطناعي، لكنها اضطرت إلى سحبه بعد ذلك بوقت قصير عندما بدأت في تقديم نصائح ضارة لإنقاص الوزن.
سيكون الأثرياء والأقوياء قادرين على اختيار عدم المشاركة في هذا المستقبل الذي تقوده الخوارزميات أو تشكيله على صورتهم من خلال الاتصال مباشرة بالبشر الذين يقفون وراء الشركات المغطاة بالعمليات الخوارزمية. عندما يكون لديك مصرفي خاص، لا داعي للقلق بشأن المراجعة المالية الآلية مجهولة المصدر – فلديك شخص لديه عنوان بريد إلكتروني ورقم هاتف. لن يضطر الأثرياء إلى القلق بشأن استبدال الممرضات أو الأطباء بعمليات الذكاء الاصطناعي، لأنهم سيكونون قادرين على تحمل تكاليف الخدمات الطبية. لن يضطر الأقوياء إلى القلق بشأن أتمتة وظائفهم لأنهم سيكونون هم من يختارون أين ومتى يتم تسليم الوظيفة إلى عملية آلية.
بالنسبة لبقيتنا، يبدو كما لو أن المزيد والمزيد من حياتنا سوف يمليها الصندوق الأسود للخوارزميات، ونحن نعرف كيف تسير الأمور. قد تكون الأتمتة مفيدة لتوسيع نطاق عمليات شركة أو حكومة وتسريعها، لكن المقايضة تكون دائمًا تقريبًا معاناة إنسانية – تسريح العمال، والشرطة غير العادلة، والخسائر المالية، وبيئة إعلامية مشوهة. حتى أكبر مصدر للمعلومات في العالم – الإنترنت – مهيأ لأن يصبح غارقًا في المحتوى الذي تم إنشاؤه لجذب الخوارزميات أو المحتوى الذي تم إنشاؤه بواسطة الخوارزميات نفسها، مما يدفع جانبًا المواد الفريدة والمثيرة للاهتمام والقيمة التي أنشأها الإنسان والتي جعلت الإنترنت مميزًا. .
الذكاء الاصطناعي ليس جديدا بهذا المعنى، ولكنه يمثل تسريعا للاتجاه نحو إبعاد الناس عن مكائد العالم من حولهم. ربما لم يكن الذكاء الفائق القدير هو الشيء الذي يجب الخوف منه أبدًا. ربما كان التهديد الحقيقي هو الجشع الذي من شأنه أن يدفع الشركات إلى تفريغ العمليات الحيوية عن طيب خاطر إلى درجة أن السيطرة البشرية تطغى عليها قوة سرطانية – محاكاة مستمدة من محاكاة تصدر دعوات في العالم الحقيقي تؤدي إلى تآكل القدرة على اتخاذ القرار بأنفسنا.
إد زيترون هو الرئيس التنفيذي لشركة إزبر، وكالة علاقات عامة وطنية للتكنولوجيا والأعمال. وهو أيضًا مؤلف النشرة الإخبارية للتكنولوجيا والثقافة أين هو إد الخاص بك في والمضيف البودكاست “أفضل دون اتصال بالإنترنت”..
