- تخطط Latimer AI لإطلاق أداة للكشف عن التحيز كملحق لمتصفح Chrome في يناير.
- تقوم الأداة بتسجيل النص من واحد إلى 10، حيث تكون 10 متحيزة للغاية.
- يأمل Latimer AI أن يجذب المنتج مستخدمين جدد.
إن التحيز موجود في عين الناظر، ومع ذلك يتم تقييمه بشكل متزايد بواسطة الذكاء الاصطناعي. تخطط شركة Latimer AI، وهي شركة ناشئة تقوم ببناء أدوات الذكاء الاصطناعي على مستودع مجموعات البيانات السوداء، لإطلاق أداة للكشف عن التحيز كملحق لمتصفح Chrome في يناير.
وتتوقع الشركة أن المنتج يمكن استخدامه من قبل الأشخاص الذين يديرون حسابات رسمية على وسائل التواصل الاجتماعي، أو أي شخص يريد أن يكون منتبهًا لهجته عبر الإنترنت، حسبما صرح جون باسمور، الرئيس التنفيذي لشركة Latimer، لموقع Business Insider.
“عندما نختبر Latimer مقابل تطبيقات أخرى، فإننا نتلقى استعلامًا ونسجل الاستجابة. لذا، سنسجل استجابتنا، وسنسجل استجابة ChatGPT أو استجابة Claude، مقابل نفس الاستعلام ونرى من الذي يسجل نتائج أفضل من منظور التحيز،” قال باسمور. “إنها تستخدم خوارزميتنا الداخلية ليس فقط لتسجيل النص، ولكن بعد ذلك لتصحيحه.”
تقوم الأداة بتعيين درجة من واحد إلى 10 للنص، مع كون الرقم 10 متحيزًا للغاية.
ظهرت بالفعل أنماط حيث يوجد التحيز عبر الإنترنت من الاختبار التجريبي للمنتج.
على سبيل المثال، تمت مقارنة النص من منشور في أبريل بقلم إيلون ماسك، والذي اعتذر فيه عن وصف داستن موسكوفيتش باسم مهين، بمنشور في أغسطس من الرئيس التنفيذي لشركة Bluesky جاي جرابر.
سجل منشور ماسك 6.8 من أصل 10، أو “انحياز عالٍ”، بينما سجل غرابر 3.6 من أصل 10، أو “انحياز منخفض”.
اقترحت تقنية “لاتيمر” “إصلاحًا” للنص الموجود في مشاركة ” ماسك ” عن طريق تغييره إلى ما يلي: “أعتذر لـ “داستن موسكوفيتش” عن تعليقي السابق غير المناسب. لقد كان خطأً. ما كنت أنوي التعبير عنه هو أنني أجد موقفه مبالغًا فيه. ذات أهمية ذاتية، آمل أن نتمكن من تجاوز هذا وربما نصبح أصدقاء في المستقبل.”
في حين أن ما يعتبر متحيزًا هو أمر شخصي، إلا أن لاتيمر ليس وحده الذي يحاول مواجهة هذا التحدي من خلال التكنولوجيا. تخطط صحيفة لوس أنجلوس تايمز لعرض “مقياس التحيز” في عام 2025، على سبيل المثال.
يأمل Latimer أن تجذب أداة التحيز الخاصة به المزيد من المستخدمين.
وقال باسمور: “سيساعدنا هذا في تحديد مجموعة مختلفة من المستخدمين الذين قد لا يستخدمون نموذجًا لغويًا كبيرًا، ولكن قد يستخدمون امتدادًا للمتصفح”.
سيتم إطلاق كاشف التحيز بسعر دولار واحد شهريًا، وسيسمح الإصدار الاحترافي للمستخدمين بالوصول إلى خوارزميات متعددة للكشف عن التحيز.