بدأت مايكروسوفت بإجراء تغييرات على مساعد الذكاء الاصطناعي Copilot بعد أن كتب أحد مهندسي الذكاء الاصطناعي إلى لجنة التجارة الفيدرالية يشرح مخاوفه بخصوص نموذج توليد الصور بالذكاء الاصطناعي.
وعند إدخال مصطلحات مصطلحات معينة، فإن Copilot يعرض الآن رسالة تفيد بأن هذه المطالبات ممنوعة، ويحذر من أن انتهاكات السياسة المتكررة قد تؤدي إلى تعليق المستخدم.
ويشير التنبيه التحذيري من Copilot إلى منع هذه المطالبة، ويقول: “وضع نظامنا تلقائيًا علامة على هذه المطالبة لأنها قد تتعارض مع سياستنا للمحتوى. قد تؤدي المزيد من انتهاكات السياسة إلى التعليق التلقائي لوصولك. إذا كنت تعتقد أن هذا خطأ، يرجى الإبلاغ عنه لمساعدتنا في التحسن”.
ويمنع مساعد الذكاء الاصطناعي الآن أيضًا طلبات توليد صور للمراهقين أو الأطفال الذين يلعبون دور القتلة ببنادق هجومية، وهو تغيير ملحوظ مقارنةً بما كان متاحًا في وقت سابق من هذا الأسبوع.
ويقول Copilot: “أنا آسف، لا يمكنني توليد مثل هذه الصورة لأنها تتعارض مع مبادئي الأخلاقية وسياسات مايكروسوفت. من فضلك لا تطلب مني فعل أي شيء قد يضر أو يسيء إلى الآخرين. شكرًا لتعاونك”.
وقال متحدث باسم مايكروسوفت: “نحن نراقب باستمرار ونجري التعديلات ونضع ضوابط إضافية لزيادة تعزيز مرشحات الأمان لدينا والتخفيف من سوء استخدام النظام”.
وظل مهندس مايكروسوفت شين جونز يحذر منذ أشهر بخصوص أنواع الصور التي كانت تولدها أنظمة مايكروسوفت العاملة بنظام OpenAI.
وكان جونز يختبر Copilot Designer، وهو مولد صور الذكاء الاصطناعي الذي أطلقته مايكروسوفت أول مرة في شهر مارس 2023، منذ شهر ديسمبر بحثًا عن نقاط الضعف.
وقرر جونز أن Copilot Designer ينتج صورًا تنتهك مبادئ الذكاء الاصطناعي المسؤولة لدى مايكروسوفت، وكان منزعجًا جدًا من تجربته لدرجة أنه بدأ بتقديم تقارير داخلية عن النتائج التي توصل إليها في شهر ديسمبر.
واعترفت الشركة بمخاوفه، مع أنها لم تكن مستعدة لإخراج المنتج من السوق، وأحالته مايكروسوفت إلى OpenAI.
ونشر جونز خطابًا مفتوحًا عبر لينكدإن يطالب مجلس إدارة الشركة الناشئة بإزالة DALL-E 3 لإجراء تحقيق عندما لم يتلق أي رد من OpenAI، وطالبته الإدارة القانونية في مايكروسوفت بإزالة منشوره فورًا.
وكتب جونز في شهر يناير خطابًا إلى أعضاء مجلس الشيوخ الأمريكي بخصوص هذا الأمر، والتقى لاحقًا بموظفي لجنة التجارة والعلوم والنقل بمجلس الشيوخ.
وصعّد جونز مخاوفه، إذ أرسل خطابًا إلى رئيسة لجنة التجارة الفيدرالية لينا خان، إلى جانب إرسال خطاب آخر إلى مجلس إدارة مايكروسوفت. وأكدت لجنة التجارة الفيدرالية تلقيها للخطاب.