يتعين على شركات التكنولوجيا التي تتطلع إلى بيع تكنولوجيا الذكاء الاصطناعي إلى الحكومة الفيدرالية الآن أن تتعرض مع عقبة تنظيمية جديدة: تثبت “chatbots” لا تستيقظ “.
خطة الرئيس دونالد ترامب الجديدة الكاسحة لمواجهة الصين في تحقيق “الهيمنة العالمية” في الذكاء الاصطناعى وعود بتقليص اللوائح وتدعيم القيم الأمريكية في أدوات الذكاء الاصطناعى المستخدمة بشكل متزايد في العمل والمنزل.
لكن واحدة من أوامر منظمة العفو الدولية الثلاثة لترامب تم توقيعه يوم الأربعاء-أحدهم “منع استيقظ الذكاء الاصطناعي في الحكومة الفيدرالية”-يحاكي مقاربة الصين التي تحركها الدولة لتشكيل سلوك أنظمة الذكاء الاصطناعى لتناسبها القيم الأساسية للحزب الحاكم.
كان العديد من مقدمي الخدمات الرائدين لنماذج لغة الذكاء الاصطناعى المستهدف بالترتيب-منتجات مثل Google's Gemini ، Microsoft's Copilot-صامتين حتى الآن بشأن توجيهات ترامب لمكافحة الإبرق ، والتي لا تزال تواجه فترة دراسة قبل أن تدخل في قواعد المشتريات الرسمية.
في حين أن صناعة التكنولوجيا قد رحبت إلى حد كبير بخطط ترامب الأوسع من الذكاء الاصطناعي ، فإن الأمر المضاد للأسوار يجبر الصناعة على القفز إلى معركة الحرب الثقافية-أو بذل قصارى جهدهم لتجنبها بهدوء.
وقال محامي الحقوق المدنية أليخاندرا مونتويا ، المدير الأول لمركز مؤتمر القيادة في مؤتمر القيادة للحقوق المدنية والتكنولوجيا “سيكون له تأثير هائل في الصناعة في الوقت الحالي” ، خاصةً في الوقت الذي تقوم فيه شركات التكنولوجيا “بتوجيه توجيهات أخرى لإدارة ترامب.
هذه الخطوة تدفع أيضًا صناعة التكنولوجيا إلى التخلي عن سنوات العمل لمكافحة أشكال منتشرة من التحيز العنصري والجنساني تلك الدراسات والأمثلة في العالم الحقيقي أظهرت أن تكون مخبوزًا في أنظمة الذكاء الاصطناعي.
قالت: “أولاً ، لا يوجد شيء مثل أيقظ AI”. “هناك تقنية منظمة العفو الدولية تميز ثم هناك تقنية منظمة العفو الدولية تعمل بالفعل لجميع الناس.”
يمثل صب سلوكيات النماذج اللغوية الكبيرة من الذكاء الاصطناعي تحديًا بسبب الطريقة التي بنتها. لقد تم تدريبهم على معظم ما هو موجود على الإنترنت ، مما يعكس تحيزات جميع الأشخاص الذين نشروا التعليقات ، أو قاموا بتحرير إدخال ويكيبيديا أو صور مشتركة عبر الإنترنت.
وقال جيم سونيتو ، المسؤول السابق في بايدن ، الذي كان نائب رئيس الأركان في وزير التجارة الأمريكي جينا رايموندو ، وهو مهندس للمبادرات في صناعة بايدن في صناعة منظمة العفو الدولية: “سيكون من الصعب للغاية على شركات التكنولوجيا الامتثال”. “تعكس نماذج اللغة الكبيرة البيانات التي تم تدريبها عليها ، بما في ذلك جميع التناقضات والتحيزات في اللغة البشرية.”
لدى عمال التكنولوجيا أيضًا رأي في كيفية تصميمهم ، من القوى العاملة العالمية للشرح الذين يتحققون من ردودهم على مهندسي وادي السيليكون الذين صاغوا التعليمات حول كيفية تفاعلهم مع الناس.
يستهدف أمر ترامب تلك الجهود “من أعلى إلى أسفل” في شركات التكنولوجيا لدمج ما يسميه “الإيديولوجية” المدمرة للتنوع والإنصاف والاندماج في نماذج الذكاء الاصطناعي ، بما في ذلك “مفاهيم مثل نظرية العرق الحرجة ، والتحيز الجنسي ، والتحيز اللاواعي ، والتقاطع ، والعنصرية الجهازية”.
بالنسبة لـ Secreto ، يشبه الأمر كتاب اللعب في الصين في “استخدام قوة الدولة لتخفيض ما يعتبره وجهات نظر غير مسبوقة.”
هذه الطريقة مختلفة ، حيث تعتمد الصين على التنظيم المباشر من خلال إدارة الفضاء الإلكتروني ، والتي تقوم بمراجعة نماذج الذكاء الاصطناعي ، وتوافق عليها قبل نشرها وتتطلب منهم تصفية المحتوى المحظور مثل حملة ميدان تيانانمن الدموية على الاحتجاجات المؤيدة للديمقراطية في عام 1989.
لا يدعو أمر ترامب إلى أي مرشحات من هذا القبيل ، معتمدًا على شركات التكنولوجيا لإظهار أن تقنيتها محايدة من الناحية الإيديولوجية من خلال الكشف عن بعض السياسات الداخلية التي توجه مجموعات الدردشة.
وقال سكونتو: “إن إدارة ترامب تأخذ طريقًا أكثر ليونة ولكنها لا تزال قسرية باستخدام العقود الفيدرالية كرافعة المالية”. “هذا يخلق ضغطًا قويًا للشركات للرقابة الذاتية من أجل البقاء في النعم الجيد للحكومة والحفاظ على تدفق الأموال”.
تردد دعوة الأمر إلى “البحث عن الحقيقة” لغة الحليف والمستشار لمرة واحدة للرئيس إيلون موسك ، الذي يستخدم هذه العبارة بشكل متكرر كمهمة مع شركته التي صنعتها شركته XAI. ولكن ما إذا كان سيتم تفضيل Grok أو منافسيها بموجب السياسة الجديدة ، فلا يزال يتعين رؤيته.
وقال نيل تشيلسون ، كبير الفنيين الجمهوريين السابق في لجنة التجارة الفيدرالية ، إنه على الرغم من مقدمة “مدببة الخطاب” التي تضع مشاكل إدارة ترامب مع DEI ، فإن اللغة الفعلية لتوجيهات الأمر لا ينبغي أن يكون من الصعب على شركات التكنولوجيا الامتثال لها.
وقال شيلسون ، الذي يرأس سياسة الذكاء الاصطناعي في معهد الوفرة غير الربحي: “لا يحظر حتى على جدول أعمال أيديولوجي” فقط أن يتم الكشف عن أي طرق مقصودة لتوجيه النموذج. “وهو لمسة خفيفة جدا ، بصراحة.”
تشيلسون يعارض مقارنات مع أوضاع الصين الصينية من الرقابة على الذكاء الاصطناعى.
وقال “لا يوجد شيء في هذا الترتيب الذي يقول أن الشركات يجب أن تنتج أو لا يمكنها إنتاج أنواع معينة من الإنتاج”. “تقول إن المطورين لا يجوز لهم تشفير أحكام حزبية أو أيديولوجية عمداً. هذا هو عكس المتطلبات الصينية تمامًا.”
حتى الآن ، فإن شركات التكنولوجيا التي أثنت على خطط ترامب الأوسع من الذكاء الاصطناعي لم تقل الكثير عن الأمر.
قال Openai يوم الخميس إنها تنتظر إرشادات أكثر تفصيلاً ، لكنها تعتقد أن عملها لجعل ChatGPT هدفًا يجعل التكنولوجيا متسقة مع ما يتطلبه الأمر.
ورفضت Microsoft ، المورد الرئيسي للبريد الإلكتروني ، الحوسبة السحابية وغيرها من الخدمات عبر الإنترنت إلى الحكومة الفيدرالية ، التعليق يوم الخميس.
أشار Musk's Xai ، من خلال المتحدثة باسم كاتي ميلر ، مسؤول سابق في ترامب ، إلى تعليق الشركة الذي يمتدح إعلانات ترامب من الذكاء الاصطناعى على أنها “خطوة إيجابية” لكنها لم ترد على سؤال متابعة حول كيفية تأثر جروك.
لم ترد الأنثروبور ، Google ، Meta ، و Palantir على الفور على الطلبات عبر البريد الإلكتروني للتعليق يوم الخميس.
تُستخدم أدوات الذكاء الاصطناعى بالفعل على نطاق واسع في الحكومة الفيدرالية ، وفقًا لمخزون تم إنشاؤه في نهاية مدة بايدن.
في وكالة واحدة فقط ، هي الصحة والخدمات الإنسانية الأمريكية ، وجد المخزون أكثر من 270 حالة استخدام ، بما في ذلك استخدام منصات الذكاء الاصطناعى التجاريين مثل ChatGPT و Google Gemini لدعم الوكالة الداخلية لتلخيص النقاط الرئيسية لتقرير طويل.
اندلعت الأفكار وراء هذا الأمر لأكثر من عام على البودكاست والوسائط الاجتماعية للأكياس وغيرهم من أصحاب الرأسماليين المؤثرين في وادي السيليكون ، الذين أيد الكثير منهم حملة ترامب الرئاسية العام الماضي. تركز الكثير من غضبهم على إصدار Google في فبراير 2024 من أداة توليد الصور منظمة العفو الدولية والتي أنتجت صورًا غير دقيقة تاريخياً قبل أن ينزل عملاق التكنولوجيا وإصلاح المنتج.
أوضحت Google لاحقًا أن الأخطاء-بما في ذلك طلب أحد المستخدمين للآباء المؤسسين الأمريكيين الذين ولدوا صورًا للرجال السود والآسيويين والأمريكيين الأصليين-كانت نتيجة التعويض الزائد للتكنولوجيا التي تركت لأجهزتها الخاصة ، معرضة لصالح الأشخاص الأخف وزناً بسبب التحيز المنتظم في النظم.
زعم حلفاء ترامب أن مهندسي Google كانوا يردون أجندتهم الاجتماعية الخاصة بهم في المنتج ، وجعلوا أولوية القيام بشيء حيال ذلك.
وقال مارك أندريسن في ديسمبر / كانون الأول: “إنها مقصودة بنسبة 100 ٪”. “هكذا تحصل على Black George Washington في Google. هناك تجاوز في النظام يقول حرفيًا ،” يجب أن يكون الجميع أسود “. الطفرة.
الفضل في الأكياس استراتيجي محافظ للمساعدة في صياغة الأمر.
“عندما سألوني عن كيفية تحديد” استيقظ “، قلت إن هناك شخص واحد فقط للاتصال به: كريس روفو. والآن هو القانون: لن تشتري الحكومة الفيدرالية Wokea” ، كتب Sacks على X.
أجاب روفو أنه ، بالإضافة إلى المساعدة في تحديد العبارة ، ساعد أيضًا في “تحديد أيديولوجيات DEI داخل دساتير التشغيل لهذه الأنظمة”.