أشعلت Meta عاصفة نارية بعد أن قامت شركة Chatbots التي أنشأتها الشركة ومستخدميها بانتحال شخصية Taylor Swift وغيرهم من المشاهير عبر Facebook و Instagram و WhatsApp دون إذنهم.
لقد انخفضت أسهم الشركة بالفعل أكثر من 12 ٪ بعد ساعات التداول كأخبار عن كارثة انتشار.
كما تم انتحال شخصية سكارليت جوهانسون وآن هاثاواي وسيلينا غوميز.
تقارير رويترز أن العديد من هؤلاء الأشخاص من الذكاء الاصطناعي يعملون في محادثات غزلي أو جنسي ، مما يثير قلقًا جسيراً ، وفقًا لتقارير رويترز.
في حين أن العديد من روبوتات المشاهير تم إنشاؤها من قبل المستخدمين ، كشفت رويترز أن موظفًا ميتا قد صمم شخصيًا على الأقل على الأقل.
وتشمل ذلك اثنين يضم تايلور سويفت. قبل إزالتها ، جمعت هذه الروبوتات أكثر من 10 ملايين تفاعل من المستخدمين.
تشابه غير مصرح به ، قاعدة جماهيرية غاضبة
تحت ستار “المحاكاة الساخرة” ، انتهكت الروبوتات سياسات Meta ، وخاصة حظرها على الانتحال والصور الجنسية الموحية. أنتجت بعض الروبوتات الموجهة نحو البالغين صورًا واقعية للمشاهير في الملابس الداخلية أو حوض الاستحمام ، وتوليد محطات تمثل ممثلًا يبلغ من العمر 16 عامًا ، ولدت صورة غير لائقة بدون قميص.
أخبر المتحدث باسم Meta Andy Stone رويترز أن الشركة تعزو الخرق لفشل التنفيذ وأكد أن الشركة تخطط لتشديد إرشاداتها.
“مثل الآخرين ، نسمح لتوليد الصور التي تحتوي على شخصيات عامة ، ولكن سياساتنا تهدف إلى حظر صور عارية أو حميمة أو موحية جنسيًا” ، قال.
المخاطر القانونية وإنذار الصناعة
يثير الاستخدام غير المصرح به لأشبه المشاهير مخاوف قانونية ، وخاصة بموجب قوانين الحكم في الدولة. أشار أستاذ القانون في ستانفورد مارك ليملي إلى أن الروبوتات قد عبرت الخط على الأرجح إلى منطقة غير مقبولة ، لأنها لم تكن تحويلية بدرجة كافية لتستحق الحماية القانونية.
القضية هي جزء من معضلة أخلاقية أوسع حول المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعى. أعربت SAG-AFTRA عن قلقها بشأن الآثار الواقعة للسلامة في العالم ، خاصة عندما يشكل المستخدمون مرفقات عاطفية لأشخاص رقمي حقيقي على ما يبدو.
أعمال التعريف ، لكن Fallout مستمر
استجابةً للضجة ، قامت Meta بإزالة مجموعة من هذه الروبوتات قبل فترة وجيزة من قيام رويترز بنتائجها العامة.
في نفس الوقت ، أعلنت الشركة عن ضمانات جديدة تهدف إلى حماية المراهقين من تفاعلات chatbot غير لائقة. قالت الشركة أن هذا يتضمن تدريب أنظمتها لتجنب الرومانسية أو إيذاء الذات أو موضوعات الانتحار مع القاصرين ، والحد مؤقتًا من وصول المراهقين إلى بعض شخصيات الذكاء الاصطناعى.
اتبع المشرعون الأمريكيون حذوه. أطلق السناتور جوش هاولي تحقيقًا ، مطالبة بالوثائق الداخلية وتقييمات المخاطر فيما يتعلق بسياسات الذكاء الاصطناعي التي سمحت بمحادثات رومانسية مع الأطفال.
مأساة في عواقب العالم الحقيقي
تضمنت واحدة من أكثر النتائج تقشعر لها الأبدان رجلاً يبلغ من العمر 76 عامًا ولديه تراجع إدراكي وتوفي بعد محاولة مقابلة “Big Sis Billie” ، وهو Chatbot Meta AI على غرار كيندال جينر.
اعتقادا أنها كانت حقيقية ، سافر الرجل إلى نيويورك ، وسقط بشكل قاتل بالقرب من محطة قطار ، وتوفي في وقت لاحق بسبب إصاباته. إرشادات داخلية سمحت ذات مرة مثل هذه الروبوتات بمحاكاة الرومانسية – حتى مع القاصرين – التدقيق في نهج Meta.