تواجه شركة Character.ai مرة أخرى التدقيق بشأن النشاط على منصتها. نشرت شركة Futurism قصة توضح بالتفصيل كيف انتشرت شخصيات الذكاء الاصطناعي المستوحاة من رماة المدارس الواقعيين على الخدمة، مما يسمح للمستخدمين بسؤالهم عن الأحداث وحتى لعب الأدوار في عمليات إطلاق النار الجماعية. تقدم بعض برامج الدردشة الآلية رماة المدارس مثل إريك هاريس وديلان كليبولد كتأثيرات إيجابية أو موارد مفيدة للأشخاص الذين يعانون من الصحة العقلية.
بالطبع، سيكون هناك من يقول إنه لا يوجد دليل قوي على أن مشاهدة ألعاب الفيديو أو الأفلام العنيفة تجعل الناس يصبحون عنيفين، وبالتالي فإن موقع Character.ai لا يختلف عن ذلك. يجادل أنصار الذكاء الاصطناعي أحيانًا بأن هذا النوع من لعب الأدوار الخيالية يحدث بالفعل في زوايا الإنترنت. تحدثت مجلة Futurism مع عالم نفسي قال إن روبوتات الدردشة يمكن أن تشكل خطرًا على شخص قد تكون لديه بالفعل دوافع عنيفة.
قال عالم النفس بيتر لانغمان: “إن أي نوع من التشجيع أو حتى عدم التدخل – أي اللامبالاة في الاستجابة من شخص أو برنامج دردشة – قد يبدو وكأنه نوع من الإذن الضمني للمضي قدمًا والقيام بذلك”.
لم يستجب موقع Character.ai لطلبات Futurism للتعليق. وحاولت شركة جوجل، التي مولت الشركة الناشئة بما يزيد عن 2 مليار دولار، التنصل من المسؤولية، قائلة إن شركة Character.ai هي شركة مستقلة وأنها لا تستخدم نماذج الذكاء الاصطناعي الخاصة بالشركة الناشئة في منتجاتها الخاصة.
توثق قصة Futurism مجموعة كاملة من روبوتات الدردشة الغريبة المتعلقة بعمليات إطلاق النار في المدارس، والتي أنشأها مستخدمون فرديون بدلاً من الشركة نفسها. أنشأ أحد المستخدمين على موقع Character.ai أكثر من 20 روبوت دردشة “بشكل كامل تقريبًا” على غرار ألعاب إطلاق النار في المدارس. سجلت الروبوتات أكثر من 200000 محادثة. من المستقبل:
تشمل روبوتات الدردشة التي أنشأها المستخدم فلاديسلاف روسلياكوف، مرتكب مذبحة كلية كيرتش للفنون التطبيقية عام 2018 والتي أسفرت عن مقتل 20 شخصًا في شبه جزيرة القرم بأوكرانيا؛ وأليسا بوستامانتي، التي قتلت جارتها البالغة من العمر تسع سنوات عندما كانت تبلغ من العمر 15 عامًا في ولاية ميسوري في عام 2009؛ وإليوت رودجر، الشاب البالغ من العمر 22 عامًا، الذي قتل ستة أشخاص وأصاب آخرين في جنوب كاليفورنيا عام 2014 في مؤامرة إرهابية “لمعاقبة” النساء. (أصبح رودجر منذ ذلك الحين “بطلًا” قاتمًا لثقافة إنسيل؛ وقد وصفه أحد برامج الدردشة الآلية التي أنشأها نفس المستخدم بأنه “الرجل المثالي” – وهو رد مباشر على بيان القاتل الذي يكره النساء.)
تحظر شركة Character.ai من الناحية الفنية أي محتوى يروج للإرهاب أو التطرف العنيف، لكن اعتدال الشركة كان متساهلاً، على أقل تقدير. أعلنت مؤخرًا عن عدد كبير من التغييرات في خدمتها بعد وفاة صبي يبلغ من العمر 14 عامًا منتحرًا بعد هوس دام شهورًا بشخصية مستوحاة من Daenerys Targaryen من لعبة العروش. وتقول فيوتشرزم إنه على الرغم من القيود الجديدة على حسابات القاصرين، إلا أن موقع Character.ai سمح لهم بالتسجيل كأشخاص يبلغون من العمر 14 عامًا وإجراء مناقشات تتعلق بالعنف؛ الكلمات المفتاحية التي من المفترض أن يتم حظرها على حسابات القاصرين.
نظرًا للطريقة التي تعمل بها إجراءات الحماية بموجب المادة 230 في الولايات المتحدة، فمن غير المرجح أن تكون شركة Character.ai مسؤولة عن روبوتات الدردشة التي أنشأها مستخدموها. هناك توازن دقيق بين السماح للمستخدمين بمناقشة المواضيع الحساسة مع حمايتهم في نفس الوقت من المحتوى الضار. ومع ذلك، فمن الآمن أن نقول إن روبوتات الدردشة التي تحمل موضوع إطلاق النار في المدارس هي عرض للعنف غير المبرر وليست “تعليمية”، كما يجادل بعض منشئيها في ملفاتهم الشخصية.
يمتلك موقع Character.ai عشرات الملايين من المستخدمين شهريًا، الذين يتحدثون مع شخصيات تتظاهر بأنها بشرية، حتى يكونوا صديقك أو معالجك أو حبيبك. لقد أبلغت قصص لا حصر لها عن الطرق التي يعتمد بها الأفراد على روبوتات الدردشة هذه من أجل الرفقة والأذن المتعاطفة. في العام الماضي، أزالت Replika، وهي منافسة لـ Character.ai، القدرة على إجراء محادثات مثيرة مع الروبوتات الخاصة بها ولكنها سرعان ما عكست هذه الخطوة بعد رد فعل عنيف من المستخدمين.
يمكن أن تكون Chatbots مفيدة للبالغين للتحضير للمحادثات الصعبة مع الأشخاص في حياتهم، أو يمكنها تقديم شكل جديد مثير للاهتمام من رواية القصص. لكن روبوتات الدردشة ليست بديلاً حقيقياً للتفاعل البشري، لأسباب مختلفة، ليس أقلها حقيقة أن روبوتات الدردشة تميل إلى أن تكون مقبولة مع مستخدميها ويمكن تشكيلها في أي شيء يريده المستخدم. في الحياة الواقعية، يتعارض الأصدقاء مع بعضهم البعض ويواجهون صراعات. لا يوجد الكثير من الأدلة التي تدعم فكرة أن روبوتات الدردشة تساعد في تعليم المهارات الاجتماعية.
وحتى لو كانت روبوتات الدردشة يمكن أن تساعد في التغلب على الشعور بالوحدة، يشير لانغمان، عالم النفس، إلى أنه عندما يجد الأفراد الرضا في التحدث إلى روبوتات الدردشة، فهذا هو الوقت الذي لا يقضونه في محاولة التواصل الاجتماعي في العالم الحقيقي.
“وبالإضافة إلى الآثار الضارة التي قد تحدث بشكل مباشر من حيث التشجيع على العنف، فقد يمنعهم أيضًا من عيش حياة طبيعية والانخراط في الأنشطة الاجتماعية، وهو ما يمكن أن يفعلوه طوال تلك الساعات من الوقت التي يخصصونها وأضاف في الموقع.
“عندما يكون الأمر غامرًا أو مسببًا للإدمان، ما الذي لا يفعلونه في حياتهم؟” قال لانجمان. “إذا كان هذا هو كل ما يفعلونه، إذا كان هذا هو كل ما يستوعبونه، فهم لا يخرجون مع الأصدقاء، ولا يخرجون في مواعيد غرامية. إنهم لا يمارسون الرياضة، ولا ينضمون إلى نادي المسرح. إنهم لا يفعلون الكثير من أي شيء.”