خداعت مصادرتي

قد أكون مراسلًا تقنيًا ، لكنني لست ذكاءً للتكنولوجيا. شيء ما يكسر ، أطفئه وأعود ، ثم أستسلم. لكنني تمكنت من تعميق البنك الخاص بي بسهولة نسبية.

جعلت الذكاء الاصطناعي التوليدي من الأسهل انتحال شخصية أصوات الناس. لسنوات ، كان هناك Deepfakes من السياسيين والمشاهير والبابا الراحل الذي صنع لزرع المعلومات على وسائل التواصل الاجتماعي. في الآونة الأخيرة ، تمكن المتسللون من أعماق الناس مثلك ومثلي. كل ما يحتاجون إليه هو بضع ثوانٍ من صوتك ، والتي قد يجدونها في منشورات الفيديو على Instagram أو Tiktok ، وربما بعض المعلومات مثل هاتفك أو رقم بطاقة الخصم ، والتي قد تكون قادرة على العثور عليها في تسرب البيانات على الويب المظلم.

في حالتي-لأغراض هذه القصة-قمت بتنزيل صوت مقابلة إذاعية ، لقد جلست منذ بضعة أسابيع ، وقمت بتدريب مولد صوتي عليها بعد الاشتراك في خدمة مقابل بضعة دولارات ، ثم استخدمت وظيفة نصية إلى نصي للدردشة مع مصادرتي بصوت بدا روبوتًا قليلاً ولكنه يشبه بشكل هائل. على مدار مكالمة مدتها خمس دقائق ، أولاً مع النظام الآلي ومن ثم ممثل بشري ، لم يثير الشكوك على ما يبدو إلا بقليل أو معدوم.

إنه محتالون تكتيك يتبنى بشكل متزايد. إنهم يستفيدون من أدوات التوليد الرخيصة والمتاحة على نطاق واسع لإعداد الأشخاص والوصول إلى حساباتهم المصرفية ، أو حتى الحسابات المفتوحة باسم شخص آخر. هذه الأفعال العميقة ليست أسهل في صنعها فحسب ، بل تزداد صعوبة في اكتشافها. في العام الماضي ، دفع عامل مالي في هونغ كونغ عن طريق الخطأ 25 مليون دولار إلى المحتالين بعد أن قاموا بتفكيك المدير المالي للشركة وغيره من الموظفين في مكالمة فيديو.

هذا هو واحد من كبار أوسبي ، لكن أيام الدفع الضخمة ليست بالضرورة الهدف. تتيح التقنية للمؤسسات الإجرامية تقليد الأشخاص على نطاق واسع ، وأتمتة المكالمات الصوتية DeepFake التي يستخدمونها لاستخلاص مبالغ أصغر من الكثير من الأشخاص. يتنبأ تقرير صادر عن Deloitte بأن خسائر الاحتيال في الولايات المتحدة قد تصل إلى 40 مليار دولار بحلول عام 2027 حيث تعزز AI من المحتالين ، والتي ستكون قفزة من 12.3 مليار دولار في عام 2023. المديرين التنفيذيين للأمن السيبراني في البنوك ، قال 80 ٪ من المجيبين إنهم يعتقدون أن الجنرال AI كان يكثف قدرات المتسللين بشكل أسرع مما يمكن للبنوك الرد عليه.

يمكن أن يأخذ هؤلاء المحتالون أدوات Gen-AI والحسابات المستهدفة على نطاق واسع. يقول بن كولمان ، الرئيس التنفيذي لشركة Reality Defender ، وهي شركة تصنع البرمجيات للحكومات والمؤسسات المالية والشركات الأخرى لاكتشاف احتمال توليد المحتوى من قبل الذكاء الاصطناعى في الوقت الحقيقي: “إنهم أفضل المهندسين وأفضل مديري المنتجات وأفضل الباحثين”. “إذا تمكنوا من أتمتة الاحتيال ، فسوف يستخدمون كل أداة واحدة.” بالإضافة إلى سرقة صوتك أو صورتك ، يمكنهم استخدام Gen AI لتزوير المستندات ، إما لسرقة الهوية أو جعل صحة جديدة تمامًا لفتح حسابات لتحويل الأموال.

قصص ذات صلة

يروي Business Insider القصص المبتكرة التي تريد معرفتها

يروي Business Insider القصص المبتكرة التي تريد معرفتها

في دراسة استقصائية مؤخراً عن 600 من المديرين التنفيذيين للأمن السيبراني في البنوك ، قال 80 ٪ من المجيبين إنهم يعتقدون أن الجنرال AI كان يعزز قدرات المتسللين بشكل أسرع مما يمكن للبنوك الرد عليه.

يلعب المحتالون لعبة أرقام. حتى عندما تقوم مؤسسة مالية بمنعهم ، فيمكنهم تجربة حساب آخر أو خدمة أخرى. من خلال أتمتة المحاولات ، “لا يتعين على المهاجمين أن يكونوا على صواب في كثير من الأحيان للقيام بعمل جيد” ، كما يقول كولمان. وهم لا يهتمون بالتعرف على أغنى الناس فقط ؛ إن عمليات الاحتيال على الكثير من الناس من المال الصغيرة يمكن أن يكون أكثر ربحًا بمرور الوقت. وفقًا لمركز شكاوى الجريمة على الإنترنت التابع لمكتب التحقيقات الفيدرالي ، فقد وصل متوسط ​​عملية الاحتيال عبر الإنترنت في عام 2024 إلى أقل من 20.000 دولار في أكثر من 250،000 شكوى تلقاها مكتب التحقيقات الفيدرالي من أشخاص من جميع الأعمار (أولئك الذين تزيد أعمارهم عن 60 شكاوى قدموا أكبر الشكاوى وشاهدوا أكبر الخسائر ، ولكن حتى الأشخاص الذين تقل أعمارهم عن 20 عامًا خسر 22.5 مليون دولار). يقول: “الجميع هدف بنفس القدر”.

يقول كولمان إن بعض البنوك حاولت التقدم في مشكلة Deepfake في السنوات القليلة الماضية ، في حين أن الآخرين لم يروا أنها مشكلة ملحة. الآن ، يستخدم المزيد والمزيد من البرامج لحماية عملائها. وجد دراسة استقصائية لعام 2024 لمديري الأعمال (الذين عملوا في الصناعات ، وليس فقط في الخدمات المصرفية) أن أكثر من 10 ٪ واجهوا محاولة أو احتيال ناجح. قال أكثر من النصف إن موظفيهم لم يتم تدريبهم على تحديد أو معالجة مثل هذه الهجمات.

تواصلت مع العديد من أكبر البنوك في الولايات المتحدة ، وسألهم عما يفعلونه للكشف عن الاحتيال في Deepfake وإغلاقه. لم يستجب العديد منهم. رفضت Citi مشاركة أي تفاصيل عن أساليب وتكنولوجيا الاحتيال. أخبرني داريوس كينجسلي ، رئيس الممارسات المصرفية للمستهلكين في JPMorgan Chase ، أن البنك يرى “التحديات التي يطرحها التقنيات المتطورة التي يمكن استغلالها من قبل الممثلين السيئين” وهي “ملتزمة بالبقاء في المقدمة من خلال التقدم المستمر لبروتوكولاتنا الأمنية والاستثمار في حلول الحوافة للحماية”.

اكتشاف Deepfakes هو عمل صعب. حتى أن Openai أوقفت كاشفها في كتابة الذكاء الاصطناعى بعد فترة وجيزة من إطلاقها في عام 2023 ، مما أدى إلى أن دقتها كانت منخفضة للغاية بحيث لا تكتشف بشكل موثوق ما إذا كان هناك شيء تم إنشاؤه بواسطة chatgpt الخاص به. لقد تحسنت كل شيء سريعًا على مدار العامين الماضيين ، حيث أصبحت الأدوات أكثر تطوراً: إذا كنت تتذكر مدى رعب وغير واقعية على مدار العامين الماضيين ، حيث أصبحت الأدوات أكثر تطوراً: منظمة العفو الدولية ويل سميث بدا تناول السباغيتي قبل عامين فقط ، وسوف تشعر بالصدمة لمعرفة ماذا مولد من نص إلى الفيديو Openai ، سورا، يمكن أن تفعل الآن. حصلت الذكاء الاصطناعى التوليدي على قفزات وحدود أفضل في تغطية مساراتها ، وهي أخبار رائعة للمخادعين.

على مكالمة Deepfake الخاصة بي مع مصرفتي ، كان لدي مزيفة من قراءة معلومات مثل رقم بطاقة الخصم الخاصة بي والأرقام الأربعة الأخيرة من رقم الضمان الاجتماعي الخاص بي. من الواضح أن هذه كانت معلومات كانت في متناول اليد ، لكن من السهل بشكل مزعج هذه الأيام أن يشتري المجرمون هذا النوع من البيانات الشخصية على شبكة الإنترنت المظلمة ، حيث ربما كانت متورطة في تسرب البيانات. لقد أنشأت عبارات ودية طلبت من مصرفتي تحديث عنوان بريدي الإلكتروني ، من فضلك ، أو تغيير رقم التعريف الشخصي الخاص بي. توسلت Me Fake Me مرارًا وتكرارًا النظام الآلي لربطني بممثل ، ثم أعطيت مبتهجًا ، “أنا بخير اليوم ، كيف حالك؟” تحية للشخص على الخط الآخر. كان لدي Deepfake لي طلب المزيد من الوقت لحفر رموز التأكيد المرسلة إلى هاتفي ثم أشكر الممثل على مساعدتهم.

بدأت السلطات في أن تبدو المنبه على مدى سهولة وسهولة الانتشار العميق. في نوفمبر / تشرين الثاني ، وضعت شبكة إنفاذ الجرائم المالية تنبيهًا للمؤسسات المالية حول Gen AI و DeepFakes وخطر الاحتيال في الهوية. متحدثًا في بنك الاحتياطي الفيدرالي في نيويورك في أبريل ، قال مايكل بار ، وهو حاكم الاحتياطي الفيدرالي ، إن التكنولوجيا “لديها القدرة على الاحتيال على الهوية” وأن هجمات Deepfake زادت عشرين أضعاف في السنوات الثلاث الماضية. قال بار إننا سنحتاج إلى سياسات جديدة ترفع تكلفة المهاجم وخفض العبء على البنوك. في الوقت الحالي ، من المخاطر المنخفضة نسبيًا وتكلفة منخفضة لمنظمات المخادع لتنفيذ عدد هائل من الهجمات ، ومن المستحيل على البنوك التقاط كل واحدة.

ليس فقط البنوك تلقي مكالمات غريبة ؛ سيستخدم المحتالون أيضًا DeepFakes لاستدعاء الأشخاص وانتحال شخصية شخص يعرفونه أو خدمة يستخدمونها. هناك خطوات يمكننا اتخاذها إذا جاءت طلبات مشبوهة في طريقنا. “هذه الاحتيال هي نكهة جديدة لأسلوب المدرسة القديمة تعتمد على اتصال غير متوقع وإحساس زائف بالإلحاح لخداع الناس في الفراق بأموالهم” ، يخبرني آشوين راغو ، رئيس سياسة الاحتيال والابتكار في سيتي ، في رسالة بريد إلكتروني. يقول راغو إن الناس يجب أن يكونوا متشككين في الطلبات العاجلة والمكالمات غير المتوقعة – حتى لو كانوا قادمين من شخص يبدو كصديق أو أحد أفراد الأسرة. حاول قضاء بعض الوقت للتحقق من المتصل أو الاتصال بالشخص بطريقة مختلفة. إذا بدا أن المكالمة من البنك الذي تتعامل معه ، فقد ترغب في تعليق البنك والاتصال بالبنك باستخدام رقم الهاتف على بطاقتك لتأكيده.

قصص ذات صلة

يروي Business Insider القصص المبتكرة التي تريد معرفتها

يروي Business Insider القصص المبتكرة التي تريد معرفتها

بالنسبة لجميع البيانات التي يمكن أن يحفرها المحتالون باستخدام الذكاء الاصطناعى ، سيكون هناك أشياء يمكن أن يعرفها شخصان فقط. في الصيف الماضي ، مدير تنفيذي في فيراري كان قادرًا على التقاط صوت مخادع بصوت الرئيس التنفيذي للشركة عندما سأل المتصل عن الكتاب الذي أوصى به قبل أيام فقط. الحد من ما تشاركه على وسائل التواصل الاجتماعي ولمن هو إحدى الطرق لقمع احتمالية أن تصبح هدفًا ، وكذلك أدوات مثل المصادقة ثن ولكن لا توجد طريقة مضمونة لتجنب أن تصبح هدفًا للاحتيال.

تضمنت أفكار سياسة Barr إنشاء مزيد من الاتساق في قوانين الجريمة الإلكترونية على المستوى الدولي والمزيد من التنسيق بين وكالات إنفاذ القانون ، مما يجعل من الصعب على الخواتم الجنائية أن تعمل دون اكتشاف. كما دعا إلى زيادة العقوبات على أولئك الذين يحاولون استخدام الذكاء الاصطناعى التوليدي للاحتيال. لكن هؤلاء لن يكونوا أسرع الإصلاحات لمواكبة مدى تغير التكنولوجيا.

على الرغم من أن هذه التقنية متوفرة بسهولة ، وأحيانًا في تطبيقات مجانية وأحيانًا لشراء بضعة دولارات فقط ، فإن المشكلة أقل انتشارًا للمتسللين ذئب الذئب ، كما يقول جيسون إيوانيدس ، نائب رئيس Global Fintech والراعي في سبيكة ، منصة منع الاحتيال. غالبًا ما يتم تنفيذها بواسطة حلقات جرائم كبيرة ومنظمة قادرة على التحرك بأعداد كبيرة وتعززها الأتمتة لتنفيذ الآلاف من الهجمات. إذا حاولوا 1000 مرة للوصول إلى وجعلها مرة واحدة ، فسوف يركزون على جهودهم على التخلص من نفس المؤسسة ، حتى يلاحظ البنك اتجاهًا ويأتي بإصلاحات لإيقافه. يقول ioannides: “إنهم يبحثون عن ضعف ، ثم يهاجمونه”. يقول إن البنوك يجب أن “تبقى ذكية” ولديها “مقاربات طبقة” للكشف عن الاحتيال بسرعة. يقول: “لن تتوقف عن الاحتيال بنسبة 100 ٪”. ولن تكون البنوك عمومًا مثالية ، لكن دفاعها يكمن في جعل نفسها “أقل جاذبية لممثل سيء” من المؤسسات الأخرى.

في النهاية ، لم أتمكن من اختراق مصرفتي تمامًا. حاولت تغيير دبوس بطاقة الخصم الخاصة بي وعنوان بريدي الإلكتروني أثناء المكالمات الهاتفية ، لكن قيل لي إن عليّ أن أفعل الأول على جهاز الصراف الآلي والثاني عبر الإنترنت. تمكنت من سماع رصيد حسابي ، ومع وجود المزيد من الإعدادية والخبرة ، ربما تمكنت من نقل بعض الأموال. كل بنك لديه أنظمة وقواعد مختلفة ، وقد يسمح البعض للأشخاص بتغيير المعلومات الشخصية ، مثل رسائل البريد الإلكتروني ، عبر الهاتف ، مما قد يمنح المخادع الوصول إلى الحساب أسهل بكثير. سواء كان مصرفي قد استمع إلى استخدامي لصوت تم إنشاؤه ، لست متأكدًا ، لكنني أنام أفضل قليلاً مع العلم أن هناك بعض الحماية في مكانها.

أماندا هوفر هو مراسل كبير في Business Insider الذي يغطي صناعة التكنولوجيا. تكتب عن أكبر شركات التكنولوجيا والاتجاهات.