تضع OpenAI المزيد من ضوابط السلامة مباشرة في أيدي مطوري الذكاء الاصطناعي من خلال معاينة بحثية جديدة لنماذج “الحماية”. تهدف عائلة “gpt-oss-safeguard” الجديدة من النماذج ذات الوزن المفتوح بشكل مباشر إلى تخصيص تصنيف المحتوى.
وسيتضمن العرض الجديد نموذجين، gpt-oss-safeguard-120b وأصغر gpt-oss-safeguard-20b. كلاهما إصداران مضبوطان من عائلة gpt-oss الحالية وسيكونان متاحين بموجب ترخيص Apache 2.0 المسموح به. سيسمح هذا لأي مؤسسة باستخدام النماذج وتعديلها ونشرها بحرية كما تراه مناسبًا.
الفرق الحقيقي هنا ليس مجرد الترخيص المفتوح؛ إنها الطريقة. بدلاً من الاعتماد على مجموعة ثابتة من القواعد المضمنة في النموذج، يستخدم gpt-oss-safeguard قدراته المنطقية لتفسير سياسة المطور الخاصة عند نقطة الاستدلال. وهذا يعني أن مطوري الذكاء الاصطناعي الذين يستخدمون نموذج OpenAI الجديد يمكنهم إعداد إطار أمان خاص بهم لتصنيف أي شيء بدءًا من مطالبات المستخدم الفردي وحتى سجلات الدردشة الكاملة. المطور، وليس موفر النموذج، له الكلمة الأخيرة في مجموعة القواعد ويمكنه تخصيصها وفقًا لحالة الاستخدام المحددة الخاصة به.
يتمتع هذا النهج بمزايا واضحة:
- الشفافية: تستخدم النماذج عملية تسلسل فكري، بحيث يمكن للمطور أن ينظر فعليًا أسفل غطاء المحرك ويرى منطق النموذج من أجل التصنيف. وهذه خطوة كبيرة للأمام مقارنة بمصنف “الصندوق الأسود” النموذجي.
- خفة الحركة: ونظرًا لأن سياسة السلامة لم يتم تدريبها بشكل دائم على نموذج OpenAI الجديد، فيمكن للمطورين تكرار ومراجعة إرشاداتهم بسرعة دون الحاجة إلى دورة إعادة تدريب كاملة. تشير شركة OpenAI، التي قامت في الأصل ببناء هذا النظام لفرقها الداخلية، إلى أن هذه طريقة أكثر مرونة للتعامل مع السلامة من تدريب المصنف التقليدي على تخمين ما تنطوي عليه السياسة بشكل غير مباشر.
بدلاً من الاعتماد على طبقة أمان واحدة تناسب الجميع من حامل النظام الأساسي، يمكن للمطورين الذين يستخدمون نماذج الذكاء الاصطناعي مفتوحة المصدر الآن بناء معاييرهم المحددة وتنفيذها.
على الرغم من عدم وجوده حتى وقت كتابة هذا التقرير، سيتمكن المطورون من الوصول إلى نماذج أمان الذكاء الاصطناعي الجديدة ذات الوزن المفتوح من OpenAI على منصة Hugging Face.
أنظر أيضا: إعادة هيكلة OpenAI، ودخول “الفصل التالي” من شراكة Microsoft
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الضخمة من قادة الصناعة؟ اطلع على معرض الذكاء الاصطناعي والبيانات الضخمة الذي يقام في أمستردام وكاليفورنيا ولندن. يعد هذا الحدث الشامل جزءًا من TechEx ويقام في مكان مشترك مع أحداث تكنولوجية رائدة أخرى بما في ذلك معرض الأمن السيبراني، انقر هنا لمزيد من المعلومات.
يتم تشغيل AI News بواسطة TechForge Media. استكشف الأحداث والندوات عبر الإنترنت القادمة الأخرى المتعلقة بتكنولوجيا المؤسسات هنا.
التدوينة OpenAI تكشف النقاب عن نماذج أمان الذكاء الاصطناعي مفتوحة الوزن للمطورين ظهرت للمرة الأولى على AI News.