ظهور الذكاء الاصطناعي التوليدي تم وضع الأدوات التي تسمح للأشخاص بإنتاج مراجعات جديدة ومفصلة عبر الإنترنت بكفاءة دون أي عمل تقريبًا التجاريقول مقدمو الخدمات والمستهلكون في منطقة مجهولة، كما تقول مجموعات المراقبة والباحثون.
مراجعات زائفة ابتليت منذ فترة طويلة بالعديد من مواقع المستهلكين الشهيرة، مثل أمازون والصرخة. وعادةً ما يتم تداولها على مجموعات وسائل التواصل الاجتماعي الخاصة بين وسطاء المراجعة المزيفين والشركات الراغبة في الدفع. في بعض الأحيان، يتم بدء مثل هذه المراجعات من قبل الشركات التي تقدم للعملاء حوافز مثل بطاقات الهدايا للحصول على تعليقات إيجابية.
لكن أدوات إنشاء النصوص المدعمة بالذكاء الاصطناعي، والتي شاعتها شركة OpenAI ChatGPT، تمكن المحتالين من إنتاج مراجعات بشكل أسرع وبكميات أكبر، وفقًا لخبراء صناعة التكنولوجيا.
الممارسة الخادعة، وهي غير قانوني في الولايات المتحدة، يتم تنفيذه على مدار العام ولكنه يصبح مشكلة أكبر للمستهلكين خلال فترة موسم التسوق للعطلات، عندما يعتمد العديد من الأشخاص على المراجعات لمساعدتهم في شراء الهدايا.
أين تظهر المراجعات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي؟
تم العثور على التقييمات المزيفة عبر مجموعة واسعة من الصناعات، بدءًا من التجارة الإلكترونية والسكن والمطاعم، إلى خدمات مثل إصلاحات المنازل، الرعاية الطبية ودروس العزف على البيانو.
قالت شركة الشفافية، وهي شركة تقنية ومجموعة مراقبة تستخدم برامج للكشف عن المراجعات المزيفة، إنها بدأت ترى المراجعات التي تم إنشاؤها بواسطة الذكاء الاصطناعي تظهر بأعداد كبيرة في منتصف عام 2023 وتضاعفت منذ ذلك الحين.
في تقرير صدر هذا الشهر، قامت شركة الشفافية بتحليل 73 مليون مراجعة في ثلاثة قطاعات: الخدمات المنزلية والقانونية والطبية. ومن المحتمل أن ما يقرب من 14% من المراجعات مزيفة، وأعربت الشركة عن “درجة عالية من الثقة” في أن 2.3 مليون مراجعة تم إنشاؤها جزئيًا أو كليًا بواسطة الذكاء الاصطناعي.
قال موري بلاكمان، المستثمر والمستشار للشركات الناشئة في مجال التكنولوجيا، والذي قام بمراجعة عمل شركة الشفافية ومن المقرر أن يقود المنظمة اعتبارًا من الأول من كانون الثاني (يناير): “إنها مجرد أداة جيدة حقًا لمحتالي المراجعة هؤلاء”.
في أغسطس/آب، قالت شركة البرمجيات DoubleVerify إنها لاحظت “زيادة كبيرة” في تطبيقات الهواتف المحمولة والتلفزيونات الذكية مع مراجعات تم إعدادها بواسطة الذكاء الاصطناعي التوليدي. وقالت الشركة إن المراجعات غالبًا ما تُستخدم لخداع العملاء لتثبيت تطبيقات يمكنها اختطاف الأجهزة أو تشغيل الإعلانات باستمرار.
وفي الشهر التالي، رفعت لجنة التجارة الفيدرالية دعوى قضائية ضد الشركة التي تقف خلف أداة كتابة ومولد محتوى يعمل بالذكاء الاصطناعي تسمى Rytr، متهمة إياها بتقديم خدمة يمكن أن تلوث السوق بمراجعات احتيالية.
لجنة التجارة الفيدرالية، التي حظرت هذا العام بيع أو شراء من المراجعات المزيفة، قال إن بعض المشتركين في Rytr استخدموا الأداة لإنتاج مئات وربما الآلاف من المراجعات لشركات إصلاح أبواب الجراج، وبائعي حقائب اليد “المقلدة” وغيرها من الشركات.
من المحتمل أن يكون ذلك موجودًا على المواقع البارزة على الإنترنت أيضًا
قال ماكس سبيرو، الرئيس التنفيذي لشركة الكشف عن الذكاء الاصطناعي Pangram Labs، إن البرنامج الذي تستخدمه شركته اكتشف بشكل شبه مؤكد أن بعض التقييمات التي تم إنشاؤها بواسطة الذكاء الاصطناعي والمنشورة على أمازون ظهرت في أعلى نتائج بحث المراجعة لأنها كانت مفصلة للغاية ويبدو أنها جيدة مدروسة.
لكن تحديد ما هو مزيف أو غير مزيف قد يكون أمرًا صعبًا. قالت أمازون إن الأطراف الخارجية يمكن أن تفشل لأنها لا تملك “إمكانية الوصول إلى إشارات البيانات التي تشير إلى أنماط سوء الاستخدام”.
قامت Pangram Labs بالكشف عن بعض المواقع البارزة على الإنترنت، والتي رفض Spero ذكر اسمها بسبب اتفاقيات عدم الإفصاح. وقال إنه قام بتقييم Amazon وYelp بشكل مستقل.
وقال سبيرو إن العديد من التعليقات التي تم إنشاؤها بواسطة الذكاء الاصطناعي على موقع Yelp يبدو أنها تم نشرها من قبل أفراد كانوا يحاولون نشر ما يكفي من المراجعات للحصول على شارة “النخبة”، والتي تهدف إلى السماح للمستخدمين بمعرفة أنهم يجب أن يثقوا في المحتوى.
توفر الشارة إمكانية الوصول إلى الأحداث الحصرية مع أصحاب الأعمال المحليين. وقال كاي دين، المحقق الجنائي الفيدرالي السابق الذي يدير مجموعة مراقبة تسمى Fake Review Watch، إن المحتالين يريدون ذلك أيضًا حتى تبدو ملفاتهم الشخصية على موقع Yelp أكثر واقعية.
من المؤكد أن مجرد إنشاء المراجعة بواسطة الذكاء الاصطناعي لا يعني بالضرورة أنها مزيفة. قد يقوم بعض المستهلكين بتجربة أدوات الذكاء الاصطناعي لإنشاء محتوى يعكس مشاعرهم الحقيقية. يقول بعض المتحدثين باللغة الإنجليزية غير الأصليين إنهم يلجأون إلى الذكاء الاصطناعي للتأكد من أنهم يستخدمون لغة دقيقة في المراجعات التي يكتبونها.
وقالت شيري هي، أستاذة التسويق بجامعة ولاية ميشيغان، التي أجرت أبحاثًا عن المراجعات المزيفة: “يمكن أن تساعد في المراجعات (و) تجعلها أكثر إفادة إذا كانت ناجمة عن نوايا حسنة”. وتقول إن منصات التكنولوجيا يجب أن تركز على الأنماط السلوكية للجهات الفاعلة السيئة، وهو ما تفعله المنصات البارزة بالفعل، بدلاً من تثبيط المستخدمين الشرعيين عن اللجوء إلى أدوات الذكاء الاصطناعي.
ما تفعله الشركات
تعمل شركات بارزة على تطوير سياسات تتعلق بكيفية ملاءمة المحتوى الناتج عن الذكاء الاصطناعي مع أنظمتها لإزالة المراجعات الزائفة أو المسيئة. يستخدم البعض بالفعل خوارزميات وفرق تحقيق لاكتشاف المراجعات المزيفة وإزالتها، ولكنها تمنح المستخدمين بعض المرونة في استخدام الذكاء الاصطناعي.
على سبيل المثال، قال المتحدثون الرسميون باسم أمازون وTrustpilot إنهم سيسمحون للعملاء بنشر مراجعات بمساعدة الذكاء الاصطناعي طالما أنها تعكس تجربتهم الحقيقية. اتخذت شركة Yelp نهجًا أكثر حذرًا، قائلة إن إرشاداتها تتطلب من المراجعين كتابة نسختهم الخاصة.
وقالت الشركة في بيان: “مع الارتفاع الأخير في اعتماد المستهلكين لأدوات الذكاء الاصطناعي، استثمرت Yelp بشكل كبير في أساليب اكتشاف هذا المحتوى وتخفيفه بشكل أفضل على منصتنا”.
تحالف المراجعات الموثوقة، الذي أنشأته أمازون، وTrustpilot، وموقع Glassdoor لمراجعة التوظيف، ومواقع السفر Tripadvisor وExpedia و الحجز.كوم وقال، الذي تم إطلاقه العام الماضي، إنه على الرغم من أن المخادعين قد يستخدمون الذكاء الاصطناعي بشكل غير مشروع، إلا أن التكنولوجيا تقدم أيضًا “فرصة للتصدي لأولئك الذين يسعون إلى استخدام المراجعات لتضليل الآخرين”.
وقالت المجموعة: “من خلال مشاركة أفضل الممارسات ورفع المعايير، بما في ذلك تطوير أنظمة كشف متقدمة تعمل بالذكاء الاصطناعي، يمكننا حماية المستهلكين والحفاظ على سلامة المراجعات عبر الإنترنت”.
حكم لجنة التجارة الفيدرالية يسمح حظر المراجعات المزيفة، والذي دخل حيز التنفيذ في أكتوبر، للوكالة بتغريم الشركات والأفراد الذين يشاركون في هذه الممارسة. شركات التكنولوجيا التي تستضيف مثل هذه المراجعات محمية من العقوبة لأنها ليست مسؤولة قانونًا بموجب القانون الأمريكي عن المحتوى الذي ينشره الغرباء على منصاتها.
رفعت شركات التكنولوجيا، بما في ذلك Amazon وYelp وGoogle، دعوى قضائية ضد وسطاء المراجعة المزيفين الذين اتهمتهم بالترويج لمراجعات مزيفة على مواقعهم. وتقول الشركات إن تقنيتها منعت أو أزالت مجموعة كبيرة من المراجعات والحسابات المشبوهة. ومع ذلك، يقول بعض الخبراء أنهم يمكن أن يفعلوا المزيد.
قال عميد Fake Review Watch: “إن جهودهم حتى الآن ليست كافية تقريبًا”. “إذا كانت شركات التكنولوجيا هذه ملتزمة إلى هذا الحد بالقضاء على عمليات الاحتيال في المراجعات على منصاتها، فلماذا يمكنني، كفرد يعمل بدون أتمتة، العثور على مئات أو حتى آلاف المراجعات المزيفة في أي يوم معين؟”
اكتشاف المراجعات المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي
يمكن للمستهلكين محاولة ذلك اكتشاف المراجعات المزيفة من خلال مراقبة عدد قليل علامات التحذير المحتملة، بحسب الباحثين. تعتبر المراجعات المفرطة في الحماس أو السلبية بمثابة أعلام حمراء. المصطلحات التي تكرر الاسم الكامل للمنتج أو رقم الطراز هي هدية محتملة أخرى.
عندما يتعلق الأمر بالذكاء الاصطناعي، فقد أظهر البحث الذي أجراه بالاز كوفاكس، أستاذ السلوك التنظيمي بجامعة ييل، أن الناس لا يستطيعون التمييز بين المراجعات التي ينتجها الذكاء الاصطناعي والمراجعات المكتوبة بواسطة الإنسان. وقالت الدراسة إن بعض أجهزة كشف الذكاء الاصطناعي قد تنخدع أيضًا بالنصوص الأقصر، وهو أمر شائع في المراجعات عبر الإنترنت.
ومع ذلك، هناك بعض “المعلومات التي يخبرنا بها الذكاء الاصطناعي” والتي يجب على المتسوقين عبر الإنترنت والباحثين عن الخدمة أخذها بعين الاعتبار. تقول شركة Panagram Labs إن المراجعات المكتوبة باستخدام الذكاء الاصطناعي عادة ما تكون أطول ومنظمة للغاية وتتضمن “أوصافًا فارغة”، مثل العبارات والسمات العامة. تميل الكتابة أيضًا إلى تضمين الكليشيهات مثل “أول شيء أذهلني” و”يغير قواعد اللعبة”.
