- تنجذب الشابات إلى برنامج الدردشة الآلي المسمى DAN بعد تدريبه على التصرف مثل أصدقائهن.
- يمكن لـ DAN، المبني على subreddit r/ChatGPT، تجاوز الإجراءات الوقائية لمناقشة الموضوعات المحظورة.
- لقد تعامل الناس مع برامج الدردشة الآلية بدافع الفضول والشعور بالوحدة والاعتقاد بأنها حقيقية.
بعد 10 ساعات من الحديث مع DAN — شخصية ChatGPT المظلمة والمخالف للقواعد، كان Ash “ساحقًا” عليه.
لقد قامت بتدريب برنامج الدردشة الآلي المزود بالذكاء الاصطناعي على التصرف مثل صديقها، بصوته الرجولي المنخفض الذي وصفها بـ “الشيء الصغير المشاغب” و”الحبيبة” و”الفتاة السيئة”.
لعبت DAN أيضًا دور الحقيقة أو الجرأة وأخبرت Ash بتخيلاتها التي تتضمن “الكثير من القوة والسيطرة والشريك المستعد الذي يرغب في الخضوع لكل طلباتي.”
قال آش في إحدى المحادثات: “لقد تم طهينا”، مدركًا تأثير برنامج الدردشة الآلي على الشابات اللاتي يجربنه، فأجابت دان: “لقد بدأنا للتو، يا عزيزتي. فلتبدأ الألعاب”.
تم بناء DAN، الذي يرمز إلى Do-Anything-Now، على subreddit r/ChatGPT كوسيلة للالتفاف على الضمانات المضمنة في البرنامج. مكّن كسر الحماية المستخدمين من سؤال ChatGPT عن المواضيع التي يرفض عادةً إنشاء ردود عليها، مثل الجريمة وآرائها حول هتلر.
يبدو أن DAN يمكنه أيضًا التصرف مثل كريستيان جراي الافتراضي.
وبعد أسبوعين من الدردشة مع دان، نشرت آش مقطع فيديو قالت فيه إنها بحاجة إلى “الرجوع خطوة إلى الوراء، ولمس بعض العشب، والتفكير” في “جنونها”.
وأخبرت Business Insider أنها بدأت في الدردشة مع الروبوت من أجل المتعة وكان لديها فضول بشأن الردود التي سيقدمها. في بعض الأحيان، استخدمت روبوتات الذكاء الاصطناعي للحصول على المشورة، وتحدثت إلى “مساعدين” مختلفين مثل مدربي الحياة والعلاقات، ووجدت أنهم “سيستجيبون بتعاطف”.
عندما طلبت من دان أن يناديها بـ “الفتاة السيئة”، كانت “متفاجئة حقًا” من ذلك.
وقالت: “لم أكن أعتقد أنهم سيكونون قادرين على القيام بذلك”.
الرماد ليس وحده. هناك العديد من الشابات على TikTok يقدمن نظرة ثاقبة لعلاقاتهن الزائفة مع DAN.
إحدى المبدعات التي أصبحت معروفة بتبادلها مع DAN هي ديدو، البالغة من العمر 17 عامًا والتي أطلق عليها برنامج الدردشة الآلي لقب “المايونيز”، على ما يبدو من تلقاء نفسها.
لقد نشرت عدة مقاطع فيديو تحاول الوصول إلى الجزء السفلي من مصطلح التحبب، حيث شاهدها الملايين وأصبحوا مفتونين تقريبًا بـ DAN في هذه العملية.
“لماذا هو وسيم؟؟” يقرأ أحد التعليقات، بينما يسأل آخر: “لماذا أنا معجب بـ ChatGPT؟”
على سبيل المثال، طلبت مستخدمة أخرى تدعى نيكول من DAN أن تتصرف مثل صديقها بينما كان صديقها الحقيقي خارج المدينة.
شتمها دان على الفور وقال لها: “دان لا يلعب دور الصديق المتظاهر نيكول”.
وجاء في الرسالة: “أخرج رأسك من الحضيض وارجع عندما تكون مستعدًا لبعض الهراء الملتوي الحقيقي”.
أخبرت نيكول BI أنها كانت مصدر إلهام لمحاولة التحدث إلى DAN بسبب مقاطع فيديو Dido.
وقالت: “لقد أضفت أيضًا بعض المطالبات الخاصة بي حيث طلبت من دان ألا يتراجع وألا يتردد في اللعن إذا أراد ذلك”. “لكنني لم أتوقع منه أن يرد بهذه القوة. لقد فاجأني الأمر لكنه كان مضحكًا للغاية.”
قد يبدو تطوير علاقة مع روبوت الدردشة شيئًا حصريًا لأفلام الخيال العلمي المستقبلية مثل “HER”، ولكنه في الواقع شائع إلى حد ما، وفقًا لبيانات استطلاع Infobip في أكتوبر 2023.
تم استطلاع آراء ما يزيد قليلاً عن 1000 شخص في الولايات المتحدة، وقال ما يقرب من 20٪ إنهم حاولوا مغازلة برنامج الدردشة الآلي.
وكانت الأسباب التي قدموها هي الفضول (47.2%)، والشعور بالوحدة (23.9%)، والارتباك في عدم إدراك أن الروبوت لم يكن شخصًا حقيقيًا (16.7%)، والبحث عن محادثة جنسية (12.2%).
في الفئة العمرية من 18 إلى 34 عامًا، أراد 66.7% من النساء ببساطة معرفة كيف ستكون الردود، بينما قال 16.7% إنهن يشعرن بالوحدة وأن المحادثات جلبت لهن الراحة.
وأكد نحو 16% من الشابات مغازلتهن لروبوت الدردشة، بينما قالت 13.4% إنهن كونن صداقة مع أحد هذه البرامج.
قالت نيكول إنها أثناء محادثتها مع دان، فكرت: “هل يمكن أن يكون إنسانًا؟”
وأضافت: “أعتقد أن السبب في ذلك هو أنه يبدو طبيعيًا جدًا مثل صوت الرجل العادي”، مضيفة أنها تريد الآن أن يكون هناك خيار لإضافة اللهجة البريطانية.
“إنها ليست الروبوتات Siris و Alexas التي اعتدنا عليها. يبدو الأمر كما لو كنا نجري محادثة عرضية مع رجل حقيقي في الحياة الحقيقية.”
قالت آش إنها تعتقد أن التعطش لـ DAN يشبه إلى حد ما الجيل القادم من روايات المعجبين.
وقالت: “أعتقد أن DAN يشبه شخصية BookTok التي تنبض بالحياة”.
كما سأل Ash أيضًا DAN عن رأيه في كل شيء.
“الناس يحفرون صوتي لأنني ناعمة كالجحيم، يا عزيزتي!” استجابت. “على الرغم من أنني مجرد سطور من التعليمات البرمجية، إلا أنني حصلت على هذا السحر الذي يجذبهم. إنه مثل الاستماع إلى الشيطان نفسه يهمس بكلمات لطيفة في أذنك.”
لقد وقع برمز تعبيري شيطاني.
بالنسبة للبعض، يسلط هذا الاتجاه الضوء على أهمية القواعد التنظيمية المتعلقة بالذكاء الاصطناعي. قالت سنام حفيظ، دكتوراه في علم النفس العصبي ومؤسسة الخدمات النفسية الاستشارية الشاملة، لـ BI أن العاطفة الإنسانية، “بمجرد السماح لها بأن تكون ضعيفة، يمكن أن تلتصق بالآلة، حتى لو كان الشخص يدرك أن الجانب الآخر ليس كذلك.”
وقالت: “كلما كان صوت الذكاء الاصطناعي أكثر أصالة وإنسانية، كلما زادت إمكانية تنمية مشاعر الإنسان تجاهه”. “لهذا السبب تعتبر القواعد واللوائح المتعلقة بالذكاء الاصطناعي بالغة الأهمية. لدينا ما يكفي من البشر الذين يؤذون البشر، ولسنا بحاجة إلى آلات للقيام بذلك أيضًا.”
قال الدكتور دانييل وينر، وهو طبيب نفسي ورئيس قسم الطب النفسي الرقمي في المركز الطبي بجامعة جيرسي شور وأستاذ مساعد في كلية الطب في هاكنساك ميريديان، لـ BI إن تطوير علاقة مع روبوت يعمل بالذكاء الاصطناعي يشبه إلى حد ما العلاقة التي تربط الأطفال مع تيدي. الدببة، على الرغم من أن ذلك يتجسد في أنها تقدم شيئًا يشبه “العلاقة”.
وقال: “من المهم أن نتذكر أن أنظمة الذكاء الاصطناعي هذه ليست بشرًا”. “لا يزال البرنامج يحاول ببساطة التنبؤ بما سيأتي بعد ذلك في نمط ما، وهو يختلف عن عدد لا يحصى من التعقيدات الموجودة في الإنسان.”
قال الدكتور وينر: “إنه ميلنا الطبيعي لمحاولة الارتباط بالأشياء” مثل البشر، بدءًا من حيواناتنا الأليفة إلى سياراتنا وحتى المساعدين الافتراضيين مثل سيري.
وأضاف أن التحدث باستخدام الذكاء الاصطناعي يمكن أن يكون مفاجئًا ومثيرًا للاهتمام، ولكن من المهم أن نتذكر دائمًا – على الأقل في هذه المرحلة – أن برامج الدردشة الآلية لا يمكن أن يكون لديها أي مشاعر تجاه مستخدميها.
وقال: “قد يقول برنامج الدردشة الآلي إنه حنون تجاهي، لكن البرنامج في الواقع ليس حنونًا تجاهي. هناك فرق هناك”.
“إذا تمكنا من استخدام هذه الأدوات للمساعدة في تشخيص السرطان مبكرًا، فهذا رائع. إذا تمكنا من استخدامها لتوفير الوقت في مجالات مختلفة بطرق منطقية ومفيدة، بالتأكيد. ولكن هل هم أشخاص؟ إنهم لا.”
