أوضحت إدارة بايدن أنها اتخذت الخطوة الأولى نحو كتابة معايير الذكاء الاصطناعي التوليدي والتوجيهات الأساسية للنشر الآمن وكيفية اختبار الأنظمة وحمايتها.
وقال المعهد الوطني للمعايير والتكنولوجيا التابع لوزارة التجارة إنه يسعى إلى الحصول على مساهمة عامة بحلول الثاني من شهر فبراير لإجراء اختبارات رئيسية حاسمة لضمان سلامة أنظمة الذكاء الاصطناعي.
وأوضحت وزيرة التجارة، جينا ريموندو، أن هذه الجهود مدفوعة بالأمر التنفيذي الذي أصدره الرئيس، جو بايدن، في شهر أكتوبر بخصوص الذكاء الاصطناعي.
ويهدف هذا الأمر التنفيذي إلى تطوير معايير الصناعة بخصوص سلامة الذكاء الاصطناعي التي تمكن أمريكا من مواصلة قيادة العالم في التطوير المسؤول واستخدام هذه التكنولوجيا السريعة التطور.
ويضع المعهد الوطني للمعايير والتكنولوجيا المبادئ التوجيهية لتقييم التقنية الناشئة وتسهيل تطوير المعايير وتوفير بيئات اختبار لتقييم أنظمتها.
ويسعى المعهد إلى الحصول على تعليقات من شركات الذكاء الاصطناعي والجمهور بشأن إدارة مخاطر الذكاء الاصطناعي التوليدي والحد من مخاطر المعلومات الخطأ الناتجة عن التقنية الناشئة.
وأثار الذكاء الاصطناعي التوليدي في الأشهر الأخيرة المخاوف من أنه قد يجعل بعض الوظائف غير مطلوبة، ويغير نتيجة الانتخابات، وربما يتغلب على البشر، ويحدث آثارًا كارثية.
ووجه أمر بايدن الوكالات إلى وضع معايير لهذا الاختبار ومعالجة المخاطر الكيميائية والبيولوجية والإشعاعية والنووية ومخاطر الأمن السيبراني ذات الصلة.
ويعمل المعهد الوطني للمعايير والتكنولوجيا على وضع إرشادات للاختبار، ومنها ما يسمى بالفريق الأحمر، الذي يعد مفيدًا لتقييم مخاطر التقنية الناشئة وإدارتها ووضع الممارسات الفضلى للقيام بذلك.
واستخدم الفريق الأحمر لسنوات في مجال الأمن السيبراني لتحديد المخاطر الجديدة، ويشير المصطلح إلى عمليات محاكاة الحرب الباردة الأمريكية، إذ يطلق على العدو اسم الفريق الأحمر.
وعُقد الحدث الأول للفريق الأحمر للتقييم العام في الولايات المتحدة في شهر أغسطس خلال مؤتمر كبير للأمن السيبراني، ونظمته AI Village و SeedAI و Humane Intelligence.
وأشار البيت الأبيض إلى أن آلاف المشاركين حاولوا معرفة إذا كان بإمكانهم جعل الأنظمة تنتج مخرجات غير مرغوب فيها، وذلك بهدف فهم المخاطر التي تمثلها هذه الأنظمة.
وأظهر الحدث كيف يمكن أن يكون الفريق الأحمر أداة فعالة لتحديد مخاطر التقنية الناشئة الجديدة.