قالت السلطات يوم الخميس إن مديرًا رياضيًا في مدرسة ثانوية في ولاية ماريلاند اتُهم باستخدام الذكاء الاصطناعي لانتحال شخصية مدير المدرسة في تسجيل صوتي يتضمن تعليقات عنصرية ومعادية للسامية.
وقالت السلطات إن القضية تبدو الأولى من نوعها في البلاد ودعت إلى سن قوانين جديدة للحماية من هذه التكنولوجيا. وحذر الخبراء أيضًا من أن الذكاء الاصطناعي أصبح قويًا بشكل متزايد، في حين أن القدرة على اكتشافه قد تتأخر دون المزيد من الموارد.
وقالت شرطة مقاطعة بالتيمور إن دازون دارين زيف صوت مدير مدرسة بايكسفيل الثانوية ردا على محادثات أجراها الرجال حول الأداء الضعيف لدارين في العمل وما إذا كان سيتم تجديد عقده.
وقالت الشرطة إن المخاوف شملت مزاعم بأن دارين دفع لزميله في السكن 1900 دولار من أموال المدرسة بحجة كاذبة لتدريب فريق كرة القدم للفتيات.
وكتبت الشرطة في وثائق الاتهام أن دارين قام بتزوير مقطع صوتي بدا فيه كما لو كان مدير المدرسة محبطًا من الطلاب السود وقدراتهم في اجتياز الاختبار. وقالوا إن التسجيل يهدف أيضًا إلى تصوير مدير المدرسة وهو يهين أفرادًا يهودًا واثنين من المعلمين.
وذكرت وثائق المحكمة أن المقطع الصوتي انتشر بسرعة على وسائل التواصل الاجتماعي وكان له “تداعيات عميقة”، حيث تم منح مدير المدرسة إجازة. ويعرض التسجيل مدير المدرسة وعائلته “لخطر كبير”، بينما يقوم ضباط الشرطة بتوفير الأمن في منزله، بحسب السلطات.
وقالت الشرطة إن التسجيل أثار أيضًا موجة من الرسائل المليئة بالكراهية على وسائل التواصل الاجتماعي وسيلًا من المكالمات الهاتفية للمدرسة. وتعطلت الأنشطة لبعض الوقت، وشعر بعض الموظفين بعدم الأمان.
وذكرت وثائق الاتهام أن “المعلمين أعربوا عن مخاوفهم من احتمال زرع أجهزة تسجيل في أماكن مختلفة في المدرسة”.
ويواجه دارين، 31 عامًا، اتهامات تشمل السرقة وتعطيل الأنشطة المدرسية والمطاردة والانتقام من أحد الشهود، وفقًا لوثائق المحكمة.
وقال سكوت شيلينبرجر، محامي ولاية مقاطعة بالتيمور، إن القضية تبدو الأولى من نوعها على مستوى البلاد التي تتعلق بالذكاء الاصطناعي والتي تمكن مكتبه من العثور عليها. وقال إن الهيئة التشريعية في ولاية ماريلاند قد تحتاج إلى تحديث قوانين الولاية لمواكبة الإمكانات الشائنة للتكنولوجيا الجديدة.
على سبيل المثال، قال شيلينبرجر إن تهمة تعطيل الأنشطة المدرسية “عقوبتها السجن لمدة 6 أشهر فقط”.
وقال المدعي العام: “لكننا بحاجة أيضًا إلى إلقاء نظرة أوسع على كيفية استخدام هذه التكنولوجيا وإساءة استخدامها لإيذاء الآخرين”.
وطلب محققو مقاطعة بالتيمور من الخبراء تحليل التسجيل الذي سجله دارين، بحسب التهم الموجهة إليه.
وقال أستاذ من جامعة كولورادو دنفر للشرطة إنه “يحتوي على آثار لمحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي مع تحرير بشري بعد الواقعة، مما أضاف ضوضاء في الخلفية للواقعية”، حسبما ذكرت سجلات المحكمة.
وقال رأي ثانٍ من أستاذ في جامعة كاليفورنيا-بيركلي للشرطة إنه “تم ربط تسجيلات متعددة معًا”، وفقًا للسجلات.
ووجد أحد محققي مقاطعة بالتيمور أن دارين استخدم نماذج لغوية كبيرة، مثل OpenAI وBingchat، والتي يمكنها “إخبار المستخدمين بالخطوات التي يجب اتخاذها لإنشاء وسائط اصطناعية”، حسبما ذكرت وثائق المحكمة.
تظهر سجلات المحكمة على الإنترنت لدارين أنه قدم سندات بقيمة 5000 دولار يوم الخميس. ولم تذكر السجلات محاميًا قد يكون قادرًا على التحدث نيابة عنه.
وقال روبرت ماكولو، رئيس شرطة مقاطعة بالتيمور، إن دارين اعتقل مساء الأربعاء قبل أن يستقل طائرة في مطار بالتيمور / واشنطن الدولي ثورغود مارشال. تم إيقاف دارين بسبب الطريقة التي جهز بها سلاحه الناري استعدادًا للرحلة، مما دفع الضباط إلى معرفة أن لديه مذكرة توقيف بحقه، وفقًا لمكولو.
وقال ماكولو إن السلطات أدخلت مذكرة اعتقال دارين في النظام مساء الأربعاء وتعتزم تسليمها صباح الخميس. قال الرئيس إنه لا يعرف سبب التحاق دارين بالطائرة المتجهة إلى هيوستن ولم يشر إلى أنه كان يحاول الهرب.
قالت المشرفة ميريام روجرز يوم الخميس إن النظام المدرسي في مقاطعة بالتيمور يوصي بإنهاء دارين.
وفي الوقت نفسه، أصبح الذكاء الاصطناعي قويًا بشكل متزايد، ومع ذلك فهو “سهل الاستخدام للغاية”، كما قال سيوي ليو، مدير مختبر الطب الشرعي الإعلامي في جامعة بوفالو.
وقال ليو لوكالة أسوشيتد برس يوم الخميس: “يمكنك تحميل صوت أي موضوع إلى هذه المنصة”. “وبعد ذلك يمكنك إعطاؤه نصًا ويمكنك البدء في إنشاء أصوات لذلك الشخص.”
وقال ليو إنه يمكن الحصول على تسجيل لشخص يتحدث لمدة دقيقة أو دقيقتين من وسائل التواصل الاجتماعي واستخدامه لإعادة إنشاء صوت شخص ما، مشيرًا إلى أنه ليس مثاليًا دائمًا.
يركز بحث ليو على تحديد الأصوات والصور الناتجة عن الذكاء الاصطناعي. وقال إن النماذج أصبحت أكثر قوة، بينما تحاول طرق الكشف اللحاق بالركب.
قال ليو: “إنها أشبه بلعبة القط والفأر الدائمة”. “ولكن إذا توقعت سرعة التطوير بناءً على الوضع الحالي، فسوف يتأخر الاكتشاف لأن لدينا موارد أقل ولا نحظى بنفس القدر من الاهتمام الذي يحظى به الجانب التوليدي.”