تل أبيب ، إسرائيل (AP) – قام عمالقة التكنولوجيا الأمريكيين بتكييف إسرائيل بهدوء لتتبع وقتل العديد من المسلحين المزعومين بسرعة أكبر في غزة ولبنان من خلال ارتفاع حاد في خدمات الذكاء الاصطناعي والحوسبة. لكن عدد المدنيين الذين قتلوا أيضًا ارتفع ، إلى جانب المخاوف من أن هذه الأدوات تساهم في وفاة الأبرياء.
قامت الجياشير بتوظيف الشركات الخاصة لسنوات لبناء أسلحة مستقلة مخصصة. ومع ذلك ، فإن حروب إسرائيل الأخيرة تمثل مثالًا رئيسيًا تم فيها استخدام نماذج الذكاء الاصطناعى التجارية التي تم إجراؤها في الولايات المتحدة في الحرب النشطة ، على الرغم من المخاوف من أنها لم يتم تطويرها في الأصل للمساعدة في تحديد من يعيش ومن يموت.
يستخدم الجيش الإسرائيلي الذكاء الاصطناعي للبحر من خلال عمليات الاستخبارات الشاسعة ، والاتصالات التي تم اعتراضها والمراقبة للعثور على خطاب أو سلوك مشبوه وتعلم حركات أعدائها. بعد هجوم مفاجئ من قبل مسلحين حماس في 7 أكتوبر 2023 ، ارتفع استخدامها لتكنولوجيا Microsoft و Openai ، حسبما وجد تحقيق في أسوشيتيد Press.
كشف التحقيق أيضًا عن تفاصيل جديدة حول كيفية اختيار أنظمة الذكاء الاصطناعى الأهداف والطرق التي يمكن أن تخطئ ، بما في ذلك البيانات المعيبة أو الخوارزميات المعيبة. كان يستند إلى المستندات الداخلية والبيانات والمقابلات الحصرية مع المسؤولين الإسرائيليين الحاليين والسابقين وموظفي الشركة.
كان هدف إسرائيل بعد الهجوم الذي قتل حوالي 1200 شخص وأخذ أكثر من 250 رهينة القضاء على حماس ، وقد وصف جيشها الذكاء الاصطناعى بأنه “مغير اللعبة” في تحقيق أهداف أكثر بسرعة أكبر. منذ أن بدأت الحرب ، توفي أكثر من 50000 شخص في غزة ولبنان و ما يقرب من 70 ٪ من المباني في غزة تم دمرها ، وفقًا للوزارات الصحية في غزة ولبنان.
وقال هايدي خليب ، كبير علماء الذكاء الاصطناعي في معهد الذكاء الاصطناعي الآن وكبار مهندس السلامة السابق في Openai. “الآثار المترتبة على ذلك لدور التكنولوجيا في تمكين هذا النوع من الحرب غير الأخلاقية وغير القانونية للمضي قدمًا.”
ارتفع استخدام إسرائيل لمنظمة العفو الدولية والحوسبة السحابية أثناء الحرب
من بين شركات التكنولوجيا الأمريكية ، كان لدى Microsoft علاقة وثيقة بشكل خاص مع الجيش الإسرائيلي الذي يمتد عقودًا.
هذه العلاقة ، إلى جانب أولئك الذين لديهم شركات تقنية أخرى ، صعدت بعد هجوم حماس. استجابت استجابة إسرائيل الحرب خوادمها الخاصة وزادت من اعتمادها على بائعي الطرف الثالث ، وفقًا لتقديم عرض تقديمي من العام الماضي من قبل العقيد راشلي ديمبينسكي ، أفضل موظف تكنولوجيا المعلومات في الجيش. كما وصفت كيف قدمت منظمة العفو الدولية إسرائيل “فعالية تشغيلية كبيرة للغاية” في غزة ، ظهرت شعارات Microsoft Azure و Google Cloud و Amazon Web Services على شاشة كبيرة خلفها.
ارتفع استخدام الجيش الإسرائيلي لمايكروسوفت و Openai الذكاء الاصطناعي في مارس الماضي إلى ما يقرب من 200 مرة من قبل الأسبوع الذي سبقت هجوم 7 أكتوبر ، ووجدت AP في مراجعة معلومات الشركة الداخلية. تضاعفت كمية البيانات التي تم تخزينها على خوادم Microsoft بين ذلك الوقت ويوليو 2024 إلى أكثر من 13.6 Petabytes – حوالي 350 ضعف الذاكرة الرقمية اللازمة لتخزين كل كتاب في مكتبة الكونغرس. كما ارتفع استخدام البنوك الضخمة في خوادم الكمبيوتر من قبل الجيش بحوالي ثلثي ما يقرب من ثلثي في الشهرين الأولين من الحرب وحده.
ورفضت Microsoft تقديم أي تعليق لهذه القصة ولم ترد على قائمة مفصلة من الأسئلة المكتوبة حول خدمات Cloud و AI التي توفرها للجيش الإسرائيلي.
في توسعية بيان على موقعه على الويبتقول الشركة: “إن احترام حقوق الإنسان هو قيمة أساسية لـ Microsoft ″ وهي ملتزمة” بربط الدور الإيجابي للتكنولوجيا في جميع أنحاء العالم “. في 40 صفحة تقرير شفافية الذكاء الاصطناعي المسؤول بالنسبة لعام 2024 ، تعهدت Microsoft بـ “تعيين وقياس وإدارة مخاطر الذكاء الاصطناعي خلال دورة التطوير للحد من خطر الضرر” ، ولا تذكر عقودها العسكرية المربحة.
يتم توفير نماذج AI المتقدمة من خلال Openai ، صانع ChatGpt ، من خلال منصة Microsoft Azure Cloud ، حيث يتم شراؤها من قبل الجيش الإسرائيلي ، ورسام الوثائق والبيانات. كانت Microsoft أكبر مستثمر في Openai.
قال Openai إنه ليس لديه شراكة مع جيش إسرائيل ، و سياسات الاستخدام لنفترض ألا يستخدم عملائها منتجاتها لتطوير الأسلحة أو تدمير الممتلكات أو الأذى. ومع ذلك ، قبل حوالي عام ، غيرت Openai شروط استخدامها من استخدام الاستخدام العسكري إلى السماح بـ “حالات استخدام الأمن القومي التي تتماشى مع مهمتنا”.
ورفض الجيش الإسرائيلي الإجابة على أسئلة مكتوبة مفصلة من AP حول استخدامها لمنتجات الذكاء الاصطناعى التجارية من شركات التكنولوجيا الأمريكية ، لكنه قال إن محلليه يستخدمون أنظمة منظمة العفو الدولية للمساعدة في تحديد الأهداف وفحصها بشكل مستقل مع ضباط رفيعي المستوى للقاء الدولي القانون ، يزن الميزة العسكرية ضد الأضرار الجانبية.
“هذه أدوات الذكاء الاصطناعى تجعل عملية الذكاء أكثر دقة وأكثر فاعلية” ، قال بيان عسكري إسرائيلي لـ AP. “لقد جعلوا المزيد من الأهداف أسرع ، ولكن ليس على حساب الدقة ، وفي كثير من الأحيان في هذه الحرب ، تمكنوا من تقليل الخسائر المدنية.”
تعمل شركات التكنولوجيا الأمريكية الأخرى أيضًا مع جيش إسرائيل
توفر Google و Amazon خدمات الحوسبة السحابية وخدمات الذكاء الاصطناعى للجيش الإسرائيلي تحت عنوان “Project Nimbus” ، وهو عقد بقيمة 1.2 مليار دولار موقّع في عام 2021 ، عندما اختبرت إسرائيل لأول مرة أنظمة الاستهداف التي تعمل بالنيابة. استخدم IDF مزارع Cisco و Dell Server أو مراكز البيانات. كما قدمت Red Hat ، وهي شركة تابعة مستقلة من IBM ، تقنيات الحوسبة السحابية للجيش الإسرائيلي ، في حين أن Palantir Technologies ، شريك Microsoft في عقود الدفاع الأمريكية ، لديها “شراكة استراتيجية” توفر أنظمة منظمة العفو الدولية لمساعدة جهود إسرائيل الحربية.
بعد أن غيرت Openai شروط استخدامها العام الماضي للسماح بأغراض الأمن القومي ، اتبعت Google حذوها في وقت سابق من هذا الشهر بتغيير مماثل لها سياسة الأخلاق العامة لإزالة اللغة قائلة إنها لن تستخدم الذكاء الاصطناعي للأسلحة والمراقبة.
وقالت Google إنها ملتزمة بتطوير ونشر الذكاء الاصطناعي بمسؤولية “يحمي الناس ، ويعزز النمو العالمي ، ويدعم الأمن القومي”.
ما الذي يستخدمه الذكاء الاصطناعي التجاري؟
تستخدم قوات الدفاع الإسرائيلية Microsoft Azure لتجميع المعلومات التي تم جمعها من خلال المراقبة الجماعية ، التي تقوم بنسخها وترجمتها ، بما في ذلك المكالمات الهاتفية والنصوص والرسائل الصوتية ، وفقًا لموظف الاستخبارات الإسرائيلي الذي يعمل مع الأنظمة. يمكن بعد ذلك فحص هذه البيانات مع أنظمة استهداف إسرائيل والعكس بالعكس.
وقال إنه يعتمد على Azure للبحث بسرعة عن المصطلحات والأنماط داخل نماذج النص الضخم ، مثل العثور على محادثات بين شخصين داخل وثيقة من 50 صفحة. يمكن لـ Azure أيضًا العثور على أشخاص يقدمون توجيهات لبعضهم البعض في النص ، والذي يمكن مرجعه بعد ذلك مع أنظمة الذكاء الاصطناعي الخاصة بالجيش لتحديد المواقع.
تُظهر Microsoft Data التي استعرضتها AP أنه منذ هجوم 7 أكتوبر ، استخدم الجيش الإسرائيلي أدوات النسخ والترجمة ونماذج Openai ، على الرغم من أنها لا تفصل عن ذلك. عادة ، نماذج الذكاء الاصطناعى التي تنسخ وتترجم أداء أفضل باللغة الإنجليزية. أقر Openai بأن نموذج الترجمة الشهير الذي يعمل بمنظمة العفو الدولية يهمس ، والذي يمكنه نسخه ويترجم إلى لغات متعددة بما في ذلك العربية ، CAN تكوين نص لم يقله أحد ، بما في ذلك إضافة التعليق العنصري والخطاب العنيف.
هل أنظمة الذكاء الاصطناعى في إسرائيل موثوقة؟
قال ضباط عسكريون إسرائيليون الذين عملوا مع أنظمة الاستهداف وغيرهم من خبراء التكنولوجيا. تتضمن المكالمات الهاتفية المعتادة المرتبطة بملف تعريف الشخص الوقت الذي اتصل به الشخص وأسماء وأرقام تلك الموجودة على المكالمة. لكن الأمر يتطلب خطوة إضافية للاستماع إلى الصوت الأصلي والتحقق منه ، أو لرؤية نسخة مترجمة.
يقول الجيش الإسرائيلي أن الشخص الذي يعرف العربية من المفترض أن يفحص الترجمات. ومع ذلك ، قال أحد ضباط الاستخبارات إنه رأى يستهدف الأخطاء التي اعتمدت على ترجمات آلية غير صحيحة من العربية إلى العبرية.
___
ذكرت بيسيكر من واشنطن وبورك من سان فرانسيسكو. ساهمت في هذا التقرير ، مراسلي أبي آبي سيويل وسارة ديب في بيروت وجوليا فرانكل وناتالي ميلزر في القدس.
___
اتصل بفريق التحقيق العالمي لـ AP في (البريد الإلكتروني محمي) أو https://www.ap.org/tips/
___
تتلقى وكالة أسوشيتيد برس مساعدة مالية من شبكة Omidyar لدعم تغطية الذكاء الاصطناعي وتأثيرها على المجتمع. AP هو الوحيد المسؤول عن جميع المحتوى. ابحث عن AP المعايير للعمل مع الأعمال الخيرية ، قائمة من المؤيدين ومناطق التغطية الممولة فيAP.org.