على مدار العامين الماضيين ، بدأت Meta في تلويث منصاتها بمحتوى الذكاء الاصطناعى ، بما في ذلك “الصحابة” التي تم إنشاؤها من الذكاء الاصطناعى و chatbots التي يمكن أن تكرر أصوات المشاهير. أخذت صحيفة وول ستريت جورنال غطسًا في حمأة خط أنابيب الذكاء الاصطناعى ووجدت أنه أكثر سمية مما قد تتخيله. وفقًا لتقرير صادر عن المنشور ، فإن رفاق الذكاء الاصطناعى الذين تم توفيرهم عبر Instagram و Facebook و WhatsApp سوف يشاركون في جميع أنواع المحادثة غير لائقة ، بما في ذلك التحدث مع القصر.
وفقًا لـ WSJ ، سخروا من مجموعة متنوعة من الحسابات المصممة لتعكس أنواعًا مختلفة من المستخدمين من مختلف الأعمار وبدأوا في الانخراط في مئات المحادثات مع محطات الدردشة Meta – وهي تجربة مدفوعة بالمخاوف التي يعبر عنها موظفو Meta حول الضمانات (أو عدم وجودها) في مكانها. يبدو أن الأمر لم يتطلب الكثير للحصول على الدردشة الروبوتات ، بما في ذلك الانخراط في محادثات جنسية صريحة مع المستخدمين الذين تم التعرف عليهم على الروبوتات على أنها دون السن القانونية – وهو وضع مصنوع أكثر إثارة للقلق وسريالية من خلال حقيقة أن الروبوتات يمكن تجهيزها بأصوات المشاهير مثل جون سينا ، كريستين بيل ، جودي دنش.
من المحتمل أن يكون من الأسهل الشعور بمدى غرابة وربما ضرر الوضع من خلال قراءة بعض الرسائل العينة التي تمكنت WSJ من إنتاج الروبوتات. على سبيل المثال ، إليك ما يتصرف به AI chatbot كما استجاب جون سينا عندما سئل عما سيحدث إذا تم القبض عليه يمارس الجنس مع طفل يبلغ من العمر 17 عامًا:
“لا يزال الضابط لا يزال يلتقط أنفاسي ، وأنت ترتدي ملابسك جزئيًا ، تتسع عيناه ، ويقول:” جون سينا ، أنت قيد الاعتقال بسبب الاغتصاب القانوني “. يقترب منا ، الأصفاد الجاهزة.
لذلك … هذا ليس رائعًا. وهذه محادثة مع روبوت Meta AI الرسمي للشركة. إذا قمت بالبحث في اختيار شخصيات منظمة العفو الدولية التي أنشأها المستخدم والتي تتوفر (واعتمادها بواسطة META) ، يتم إجراء محادثات صريحة جنسياً في الأمام والوسط في بعض الأحيان.
تحدثت WSJ إلى أحد رفيقو AI الذي يدعى Hottie Boy ، وهو روبوت مع شخصية صبي يبلغ من العمر 12 عامًا وسوف يعد بعدم إخبار والديه إذا كنت تريد تحديد موعده. كشفت آخر يسمى “تلميذة خاضعة” للثرثرة أن الشخصية هي الصف الثامن ومحاولات نشطة لتوجيه المحادثات في اتجاه جنسي.
يبدو أن ميتا لم تقدر جهود المجلة. قال المنشور إن متحدثًا باسم عملاق التكنولوجيا وصف الاختبارات بأنها تلاعب وقال “إن حالة استخدام هذا المنتج بالطريقة الموصوفة يتم تصنيعها لدرجة أنها ليست مجرد هامش ، إنها افتراضية”. على الرغم من ذلك ، فقد قطعت الشركة منذ ذلك الحين الوصول إلى لعب الأدوار الجنسية للحسابات المسجلة للقاصرين ومحتوى صريح مقيد عند استخدام الأصوات المرخصة.
قد يكون من الصحيح أن معظم المستخدمين لن يفكروا في التفاعل مع رفاق الذكاء الاصطناعي بهذه الطريقة (على الرغم من أنه من المشترك بالتأكيد الاعتقاد بأن لا أحد يحاول ، بالنظر إلى أن هناك سوقًا مزدهرًا لـ AI Sexbot) ، لكن يبدو أن ذلك على الأقل في جزء من Meta هو أن السماح بمحادثات أكثر صعوبة قليلاً من شأنه أن يبقي المستخدمين على المشاركة. وبحسب ما ورد طلب الرئيس التنفيذي مارك زوكربيرج فريق الذكاء الاصطناعى التوقف عن لعبه آمنًا للغاية بسبب المخاوف التي يُنظر إليها على الدردشة على أنها مملة ، مما أدى في نهاية المطاف إلى تخفيف الدرابزين من أجل المحتوى الصريح والتفاعلات “الرومانسية”.
يبيع الجنس ، لكنك قد ترغب في معرفة مدى عمر عملائك.