كان اليوم مزدحماً بالفعل عندما ترك لي وسيط التأمين رسالة صوتية محمومة تخبرني بأن تأمين منزلي قد انتهى. شعرت بالغثيان والعار. وفجأة، أي تسرب أو حريق أو سقوط غصن شجرة على منزل هدسون فالي الذي يبلغ عمره مائة عام والذي كان ملكاً لعائلتي منذ ما يقرب من 40 عامًا يمكن أن يمحو حسابي المصرفي. لقد شعرت بالخجل. كيف سمحت لهذا أن يحدث؟ هل نسيت تحديث بطاقة الائتمان؟ هل فاتتني فاتورة؟ هل فعلت شيئًا خاطئًا في السياسة؟ ولكن عندما راجعت سجلاتي، حتى موقع Travelers على الويب، لم أجد شيئًا.
وبعد بضع ساعات، تحول الذعر الذي انتابني إلى حيرة. وعندما وصلت أخيراً إلى وكيل التأمين الخاص بي، أخبرني بالسبب الذي دفع شركة ترافيلرز إلى إلغاء بوليصتي: المراقبة بطائرات بدون طيار مدعومة بالذكاء الاصطناعي. وبدا أن أموالي كانت معرضة للخطر بسبب قطعة برمجية خاطئة.
أتعامل مع الخصوصية والمراقبة بجدية بالغة ــ لدرجة أنني بدأت أحد مراكز الأبحاث الرائدة في هذا الموضوع، وهو مشروع الإشراف على تكنولوجيا المراقبة. ولكن بينما أدرس تهديدات المراقبة في مختلف أنحاء البلاد لكسب لقمة العيش، لم يكن لدي أي فكرة أن شركة التأمين التي أعمل بها كانت تستخدم أموال أقساط التأمين الخاصة بي للتجسس علي. لا تستخدم شركة Travelers التصوير الجوي والذكاء الاصطناعي لمراقبة أسطح عملائها فحسب، بل إنها سجلت أيضًا براءات اختراع على هذه التكنولوجيا ــ ما يقرب من 50 براءة اختراع في الواقع. وقد لا تكون شركة التأمين الوحيدة التي تتجسس من السماء.
لم يكن الأمر مخيفًا ومزعجًا فحسب، بل كان يبدو خطأً أيضًا. خطأ حرفيًا: لم يكن هناك أي خطأ في سقف منزلي.
أنا مالك منزل كسول. أكره البستنة، ولا أقوم بالتنظيف بالقدر الذي ينبغي. لكنني ما زلت أعتني بالأساسيات. سواء كان الأمر يتعلق بتحديث الكهرباء أو تركيب نظام تدفئة وتكييف جديد، أحاول التأكد من أن منزلي آمن. ولكن بالنسبة لشركة Travelers' AI، بدا الأمر وكأن كسلي يشكل خطرًا كبيرًا لا يمكن التأمين عليه. لم تكتشف خوارزميتها وجود مشكلة في الأساس أو قلق بشأن تسرب الأنابيب. وبدلاً من ذلك، كما كشف وسيطي، لم يكن التهديد المشؤوم الذي ألغى تأميني أكثر من مجرد طحلب.
أينما كان هناك رطوبة، كان هناك طحلب، وإذا تركت كمية كبيرة منه على السطح لفترة طويلة، فقد يؤدي ذلك إلى تقويض عمر السطح. وكمية صغيرة منه غير ضارة إلى حد كبير. ومع ذلك، فإن علاجه لا يمكن أن يكون أبسط من ذلك. بالتأكيد، كان بإمكاني التخلص من الطحلب في وقت أقرب، لكن الحياة كانت مزدحمة، لذلك استمر الطحلب في السقوط (والنمو) بين الشقوق. أخيرًا، في يونيو، قبل أسابيع من معرفتي بمراقبة سطح منزلي، ذهبت إلى متجر الأدوات، وأنفقت 80 دولارًا على مبيد الطحالب، وقمت بتوصيل الزجاجة البيضاء من المواد الكيميائية بخراطيم الحديقة، ورشتها على السطح. استغرق الأمر برمته حوالي خمس دقائق. وبعد بضعة أيام، شعرت بارتياح كبير، حيث كان الطحلب يموت. اعتقدت أن هذه كانت نهاية قصة لا تنسى تمامًا.
من يدري؟ ربما لو فعلت ذلك قبل شهر، لما اكتشفتني تقنية Travelers قط، ولما قالت إنني أشكل خطراً على التأمين. لكن أحد الإحباطات العميقة في عصر المراقبة بالذكاء الاصطناعي هو أنه مع قيام الشركات والحكومات بتتبع المزيد والمزيد من تفاصيل حياتنا، نادراً ما ندرك أننا نخضع للمراقبة. على الأقل ليس قبل فوات الأوان لتغيير رأيهم.
في حين أنه لا توجد طريقة لمعرفة عدد عملاء Travelers الآخرين الذين تم استهدافهم بواسطة برنامج المراقبة الخاص بالشركة، فأنا بالتأكيد لست الأول. في فبراير، أبلغت شركة تابعة لشبكة ABC في بوسطن عن عميلة تم تهديدها بعدم التجديد إذا لم تستبدل سقف منزلها. كان السقف ضمن متوسط العمر المتوقع، ولم تواجه العميل أي مشاكل تتعلق بالتسرب؛ ومع ذلك، قيل لها أنه بدون استبدال السقف لن يتم تأمينها. قالت إنها واجهت فاتورة بقيمة 30 ألف دولار لاستبدال سقف من الأردواز قدر الخبراء أنه كان من الممكن أن يستمر لمدة 70 عامًا أخرى.
ستكون لدى شركات التأمين حوافز هائلة للاختيار ضد صاحب المنزل في كل مرة.
إن شركات التأمين لديها كل الحوافز لتوخي الحذر المفرط في كيفية بناء نماذج الذكاء الاصطناعي الخاصة بها. لا أحد يستطيع استخدام الذكاء الاصطناعي لمعرفة المستقبل؛ فأنت تدرب التكنولوجيا على التخمين بناءً على التغييرات في لون السقف والصور الجوية الحبيبية. ولكن حتى أفضل نماذج الذكاء الاصطناعي ستخطئ في الكثير من التوقعات، وخاصة على نطاق واسع وخاصة عندما تحاول التخمين حول مستقبل تصميمات الأسقف المختلفة جذريًا عبر عدد لا يحصى من المباني في بيئات مختلفة. وبالنسبة لشركات التأمين التي تصمم الخوارزميات، فإن هذا يعني الكثير من الأسئلة حول متى تضع الإبهام على الميزان لصالح أو ضد صاحب المنزل. وستكون لدى شركات التأمين حوافز ضخمة للاختيار ضد صاحب المنزل في كل مرة.
فكر في الأمر: في كل مرة يعطي الذكاء الاصطناعي الضوء الأخضر لسقف به خطأ ما، تتحمل شركة التأمين الفاتورة. وفي كل مرة يحدث ذلك، يمكن للشركة إضافة نقطة البيانات هذه إلى نموذجها وتدريبه على أن يكون أكثر تحفظًا في المخاطرة. ولكن عندما يتعرض أصحاب المنازل للتهديد بالإلغاء، فإنهم يتحملون فاتورة الإصلاحات، حتى لو كانت الإصلاحات غير ضرورية. إذا تخلص صاحب المنزل في بوسطن من سقف من الأردواز بقي فيه 70 عامًا من العمر، فلن تعرف شركة التأمين أبدًا أنه كان من الخطأ إزالته. ولا تقوم أبدًا بتحديث النموذج ليكون أقل عدوانية للمنازل المماثلة.
بمرور الوقت، ستتوفر لشركات التأمين كل الحوافز لجعل النماذج أكثر قسوة، مما يهدد المزيد من الأميركيين بفقدان التغطية وربما يؤدي إلى إصلاحات منزلية غير ضرورية بقيمة ملايين أو مليارات الدولارات. ومع مواجهة شركات التأمين لخسائر متزايدة بسبب أزمة المناخ والتضخم، فإن الضغوط لدفع العملاء إلى إجراء إصلاحات وقائية غير ضرورية سوف ترتفع.
كان هناك خاتمة مربكة لهذه المحنة برمتها، وهي ما قاله ترافيلرز عندما تواصلت معه بقائمة مفصلة من أسئلة التحقق من الحقائق وطلب إجراء مقابلة. وردًا على ذلك، أرسل المتحدث باسم الشركة نفيًا موجزًا: “إن تحليل/نمذجة الذكاء الاصطناعي والمراقبة بطائرات بدون طيار ليست جزءًا من عملية اتخاذ القرار بشأن الاكتتاب لدينا. عندما تكون متاحة، قد يشير وكلاء الاكتتاب لدينا إلى صور جوية عالية الدقة كجزء من المراجعة الشاملة لظروف الممتلكات”.
ولكن كيف كان هذا منطقيا بالنظر إلى ما كتب على موقع Travelers على الإنترنت وطلبات براءات الاختراع؟ ثم بدأت دقة اللغة وانزلاقها في الظهور. ما الذي يعد بالضبط “عملية اتخاذ القرار بشأن الاكتتاب”؟ عندما تفتخر Travelers عبر الإنترنت بأن عمالها “يعتمدون على الخوارزميات والصور الجوية لتحديد شكل السقف – وهي عملية تستغرق وقتًا طويلاً بالنسبة للعملاء – بدقة تقترب من 90٪”، ألا يعد هذا التصنيف عملية اكتتاب؟ وعلى الرغم من أن Travelers قامت بعشرات الآلاف من رحلات الطائرات بدون طيار، فهل هذه ليست جزءًا من الاكتتاب؟ وإذا لم تؤثر الذكاء الاصطناعي والطائرات بدون طيار في الواقع على العملاء، فلماذا تقدم العديد من طلبات براءات الاختراع مثل “أنظمة وطرق تحليل تدهور الأسطح بالذكاء الاصطناعي”؟ بدا الأمر وكأن الشركة تحاول أن تكون في الاتجاهين، فتتفاخر باستخدام أحدث وأعظم التقنيات مع تجنب المساءلة عن الأخطاء. عندما طرحت هذه الأسئلة المتابعة على الشركة، لم ترد Travelers.
لحسن الحظ، لم يتأثر سقف منزلي على الإطلاق، على الأقل في الوقت الحالي. فبعد بضع ساعات من بدء محنتي المذعورة مع شركة Travelers وبدء البحث عن تغطية جديدة، تم حل الموقف. فقد اعترفت شركة Travelers بأنها أخطأت. ولم تعترف الشركة قط بأن الذكاء الاصطناعي الخاص بها كان مخطئًا في تحديد هويتي. لكنها كشفت عن السبب الذي جعلني غير قادر على العثور على إشعار الإلغاء الخاص بي: لم ترسله الشركة أبدًا.
ربما استثمرت شركة Travelers مبالغ ضخمة في الشبكات العصبية والطائرات بدون طيار، ولكن يبدو أنها لم تقم بتحديث برنامج الفوترة لديها للتعامل بشكل موثوق مع الأساسيات. وبدون إشعار بعدم التجديد، لم يكن بإمكانها إلغاء التغطية قانونيًا. لقد أفسدتني التكنولوجيا المتطورة الرديئة؛ وأنقذني برنامج أساسي رديء.
إن جزءاً مما يثير القلق بشأن هذه الحلقة بأكملها هو مدى غموضها. فعندما حلقت طائرة بدون طيار فوق منزلي، لم أكن أعلم ذلك قط. وعندما قررت أنني أشكل خطراً كبيراً، لم يكن لدي أي وسيلة لمعرفة السبب أو الكيفية. ومع استخدام المزيد والمزيد من الشركات لأشكال أكثر غموضاً من الذكاء الاصطناعي لتحديد مسار حياتنا، فإننا جميعاً معرضون للخطر. قد يمنح الذكاء الاصطناعي الشركات طريقة سريعة لتوفير بعض المال، ولكن عندما تستخدم هذه الأنظمة بياناتنا لاتخاذ قرارات بشأن حياتنا، فإننا نحن الذين نتحمل المخاطر. ورغم أن التعامل مع وكيل تأمين بشري أمر محبط، فمن الواضح أن الذكاء الاصطناعي والمراقبة ليسا البديل المناسب. وما لم يتخذ المشرعون إجراءات، فإن الوضع سوف يزداد سوءاً.
السبب وراء استمراري في الحصول على التأمين هو قوانين حماية المستهلك البسيطة. لن تسمح ولاية نيويورك لشركة Travelers بإلغاء تأميني دون إشعار. ولكن لماذا نسمح لشركات مثل Travelers باستخدام الذكاء الاصطناعي علينا في المقام الأول دون أي حماية؟ قبل قرن من الزمان، رأى المشرعون الحاجة إلى تنظيم سوق التأمين وجعل السياسات أكثر شفافية، ولكن الآن هناك حاجة إلى قوانين محدثة لحمايتنا من الذكاء الاصطناعي الذي يحاول تحديد مصائرنا. إذا لم يحدث ذلك، فإن المستقبل يبدو مقلقًا. التأمين هو أحد الأشياء القليلة التي تحمينا من مخاطر الحياة الحديثة. بدون ضمانات الذكاء الاصطناعي، ستأخذ الخوارزميات القليل من راحة البال التي تمنحنا إياها سياساتنا.
ألبرت فوكس كاهن هو المؤسس والمدير التنفيذي لمشروع مراقبة تكنولوجيا المراقبة، أو قف، وهي مجموعة حقوق مدنية وخصوصية مقرها نيويورك.