في مؤتمر مطوري الألعاب هذا الأسبوع، قدمت شركة Ubisoft لمحة محتملة عن مستقبل مليء بالذكاء الاصطناعي للاعبين. عرضت الشركة نموذجًا أوليًا في المعرض يستخدم خدمة Nvidia's Ace الصغيرة لإنتاج “شخصيات ذكية غير قابلة للعب” صوتية بالكامل يمكن للاعبين التفاعل معها من خلال التحدث في الميكروفون. على الرغم من إثارة الشكوك عبر الإنترنت (بما فيهم أنا)، إلا أن العرض التوضيحي نفسه أثار إعجابنا بمجرد أن بدأنا في تجربته. لقد أجريت محادثة مقنعة بشكل مدهش مع شخصية غير قابلة للعب واعية بيئيًا حول أخلاقيات الإرهاب البيئي، وهي محادثة خارجة عن النص تمامًا أصبحت ممكنة من خلال الذكاء الاصطناعي.
إنها واحدة من أقوى حالات الاستخدام التي شهدناها للتكنولوجيا حتى الآن، ولكن بها عيبًا مفاجئًا تكافح شركة Ubisoft لحله: التحيز اللغوي.
التحيز السري لمنظمة العفو الدولية
في العرض التوضيحي القصير، قمت بدور شخصية ترتاد الفضاء وتنخرط في قتال مجموعة مقاومة ضد شركة عملاقة. جعلني العرض التوضيحي المكون من ثلاثة أجزاء أتحدث مع شخصيتين مختلفتين، وكلاهما أنشأت Ubisoft قصصًا طويلة لهما وتم إدخالهما في أداة Nvidia's Ace. لقد تعرفت على عالم الخيال العلمي من خلال الدردشة مع أحد الشخصيات غير القابلة للعب، وسؤاله عن رفاقه، قبل التخطيط لسرقة مثالية من خلال التفكير الإبداعي.
بعد الانتهاء من العرض التوضيحي، سألت اثنين من العاملين في Ubisoft المشاركين في المشروع عما إذا كان هناك أي عيوب في الأداة التي تسببت في إحباطهم. على الرغم من أنهم كانوا على مستوى عالٍ من التكنولوجيا بشكل عام، كان من الواضح من بعض التنهدات العميقة أن لديهم قائمة غسيل من مكامن الخلل التي ما زالوا بحاجة إلى حلها قبل أن يتبنى الاستوديو التكنولوجيا بالكامل. مشكلتهم الأولى هي التحيز المتأصل في اللغة الإنجليزية، وهي مشكلة إنسانية يرثها الذكاء الاصطناعي حاليًا بشكل افتراضي.
أشار الدمويون إلى مثالين محددين لم يتم تسجيلهما معي أثناء اللعب. في مرحلة ما، طلبت من أحد الشخصيات غير القابلة للعب أن يخبرني عن العضو الأقل تفضيلاً لديه في فريقهم. بعد أن أخبروني أنهم يحبون جميع أفراد طاقمهم، ألقوا شخصية تدعى آيرون تحت الحافلة لكونها رجلًا شائكًا. كانت هناك مشكلة واحدة فقط: ليس من المفترض أن يكون الحديد رجلاً.
ووفقا للديمويين، يبدو أن أداة الذكاء الاصطناعي تربط كلمة “حديد” بالذكورة. وهكذا يفترض أن شخصية آيرون ذكر. تظهر مشكلة مماثلة عندما يتحدث المجلس الوطني لنواب الشعب عن شخصية تدعى بلوم، والتي يتم الحديث عنها على أنها امرأة لطيفة ومربية. هذه هي مشكلة الحديد التي تحدث في الاتجاه المعاكس؛ يبدو أن الآلة تفسر كلمة “بلوم” على أنها مصطلح أنثوي، مما يضفي صورة نمطية أمومية على الشخصية الذكورية. هذه الأمثلة صغيرة، لكنها تفتح الباب أمام بعض المشكلات الأكبر إذا تركت دون تحديد. على سبيل المثال، كيف سيتعامل حوار الذكاء الاصطناعي التوليدي مع العرق؟
هذه ليست مشكلة خاصة بأداة Nvidia أو الذكاء الاصطناعي بشكل عام؛ إنه يعكس فارقًا بسيطًا رائعًا في اللغة. إن النماذج اللغوية الكبيرة (LLMs) مثل تلك المستخدمة هنا تعكس ببساطة الطريقة التي يتحدث بها البشر بناءً على كتلة البيانات التي تم تدريبهم عليها. وهذا يعني أنه من المحتم أن يكتسب بعض العادات السيئة من وقت لآخر، مثل نشر الصور النمطية المتعلقة بالجنسين. على الرغم من أن الشخصيات غير القابلة للعب في Ubisoft تمتلك قصصًا درامية طويلة صاغها الكتّاب يدويًا، إلا أنهم ما زالوا يتعلمون من مجموعات بيانات تعلم اللغة الأكثر عمومية. تعترف شركات الذكاء الاصطناعي مثل Convai، التي ساعدت في تشغيل عرض Nvidia's Kairos التجريبي في معرض CES هذا العام، بأنها لا تعرف حقًا المحتوى الدقيق الذي يتم تدريب مجموعات البيانات هذه عليه.
تصبح هذه المشكلة أكثر تعقيدًا عند النظر في ما يعنيه ذلك بالنسبة للغات المختلفة. أشار المطورون الذين تحدثت إليهم إلى أن الذكاء الاصطناعي التوليدي يركز حاليًا على اللغة الإنجليزية. ومع ذلك، يمكن أن تختلف اللغات الأخرى جذريًا، مما يخلق تحديًا إضافيًا لأولئك الذين يتطلعون إلى اعتماد أدوات مثل Ace. ما هو المعيار بالنسبة للمتحدثين باللغة الإنجليزية قد لا يكون له معنى في بلد آخر. كيف يمكنك توطين جهاز لا يعرف سوى لغة واحدة؟
لا تحاول Ubisoft وNvidia إخفاء هذه العيوب. أكد العمال الذين تحدثت إليهم أثناء العرض التوضيحي على أهمية التعاون مع فرق DEI الداخلية التي يمكنها المساعدة في تحديد نقاط الضعف وتصحيح الكتابة التي تخرجها أحرف الذكاء الاصطناعي. بقدر ما كنت منبهرًا بإجراء نقاش فلسفي مثير مع شخصية غير قابلة للعب تعمل بالذكاء الاصطناعي، فمن الواضح أن تلك الآلات لا تزال بحاجة إلى الكثير من المساعدة البشرية لإصلاح الغرائز التي غرسناها فيها عن طريق الخطأ.