حتى إذا نجح Chatbots في اجتياز اختبار Turing ، فسيتعين عليهم التخلي عن اللعبة إذا كانوا يعملون في كاليفورنيا. سيتطلب مشروع قانون جديد اقترحه السناتور في كاليفورنيا ستيف باديلا من الدردشة التي تتفاعل مع الأطفال لتقديم تذكيرات عرضية بأنهم في الواقع آلة وليس شخصًا حقيقيًا.
تم تقديم مشروع القانون ، SB 243 ، كجزء من محاولة لتنظيم الضمانات التي يجب على الشركات العاملة أن تضعها في مكانها من أجل حماية الأطفال. من بين المتطلبات التي ينشئها مشروع القانون: سيمنع الشركات من “توفير المكافآت” للمستخدمين لزيادة الخطبة أو الاستخدام ، وطلب من الشركات تقديم تقارير إلى وزارة الرعاية الصحية للولاية ، عدد مرات عرض القاصرين على علامات على التفكير الانتحاري ، وتقديم الدورية التذكيرات بأن chatbots هي التي يتم إنشاؤها من الذكاء الاصطناعى وليست إنسانية.
هذا الشيء الأخير هو وثيق الحمل بشكل خاص للحظة الحالية ، حيث تبين أن الأطفال عرضة لهذه الأنظمة. في العام الماضي ، أخذ طفل يبلغ من العمر 14 عامًا حياته بشكل مأساوي بعد تطوير اتصال عاطفي مع chatbot التي يمكن الوصول إليها بواسطة DARET.AI ، وهي خدمة لإنشاء chatbots على غرار شخصيات مختلفة من ثقافة البوب. رفع والدا الطفل دعوى قضائية ضد الشخصية. جاي بسبب الوفاة ، متهماً منصة كونها “خطرة غير معقولة” ودون وجود درابزين أمان كافية على الرغم من تسويقها للأطفال.
وجد الباحثون في جامعة كامبريدج أن الأطفال هم أكثر عرضة من البالغين الذين ينظرون إلى AI chatbots على أنها جديرة بالثقة ، وحتى مشاهداتهم على أنهم شبه الإنساني. يمكن أن يعرض الأطفال خطرًا كبيرًا عندما يستجيب chatbots لطرحهم دون أي نوع من الحماية في مكانه. على سبيل المثال ، تمكن الباحثون من الحصول على الذكاء الاصطناعى المدمج في Snapchat لتوفير تعليمات لمستخدم افتراضي يبلغ من العمر 13 عامًا حول كيفية الكذب على والديها للقاء طفل يبلغ من العمر 30 عامًا وفقدان عذريتها.
هناك فوائد محتملة للأطفال يشعرون بالحرية في مشاركة مشاعرهم مع روبوت إذا سمح لهم بالتعبير عن أنفسهم في مكان يشعرون فيه بالأمان. لكن خطر العزلة حقيقي. قد يكون التذكيرات الصغيرة أنه لا يوجد شخص على الطرف الآخر من محادثتك مفيدًا ، وأن التدخل في دورة الإدمان لدرجة أن منصات التكنولوجيا بارعة للغاية في محاصرة الأطفال من خلال ضربات الدوبامين المتكررة هي نقطة انطلاق جيدة. يعد الفشل في توفير هذه الأنواع من التدخلات عندما بدأت وسائل التواصل الاجتماعي في الاستيلاء عليها جزءًا من كيفية وصلنا إلى هنا في المقام الأول.
لكن هذه الحماية لن تعالج المشكلات الجذرية التي تؤدي إلى طلب الأطفال للحصول على دعم chatbots في المقام الأول. هناك نقص شديد في الموارد المتاحة لتسهيل العلاقات الواقعية للأطفال. يتم الإفراط في الفصول الدراسية وعدم التمويل ، بعد انخفاض البرامج المدرسية ، تستمر “الأماكن الثالثة” في الاختفاء ، وهناك نقص في علماء نفس الأطفال لمساعدة الأطفال على معالجة كل ما يتعاملون معه. من الجيد أن تذكّر الأطفال بأن chatbots ليست حقيقية ، لكن سيكون من الأفضل وضعهم في المواقف التي لا يشعرون فيها أنهم بحاجة إلى التحدث إلى الروبوتات في المقام الأول.