بدأت Endor Labs في تسجيل نماذج الذكاء الاصطناعي بناءً على أمانها وشعبيتها وجودتها ونشاطها.
تهدف هذه القدرة الفريدة التي يطلق عليها اسم “Endor Scores for AI Models” إلى تبسيط عملية تحديد نماذج الذكاء الاصطناعي مفتوحة المصدر الأكثر أمانًا والمتوفرة حاليًا على Hugging Face – وهي منصة لمشاركة نماذج اللغات الكبيرة (LLMs) ونماذج التعلم الآلي وغيرها. نماذج ومجموعات بيانات الذكاء الاصطناعي مفتوحة المصدر – من خلال توفير نتائج مباشرة.
ويأتي هذا الإعلان في الوقت الذي يتجه فيه المطورون بشكل متزايد إلى منصات مثل Hugging Face لنماذج الذكاء الاصطناعي الجاهزة، مما يعكس الأيام الأولى للبرامج مفتوحة المصدر المتاحة بسهولة (OSS). يعمل هذا الإصدار الجديد على تحسين حوكمة الذكاء الاصطناعي من خلال تمكين المطورين من “البدء بشكل نظيف” باستخدام نماذج الذكاء الاصطناعي، وهو الهدف الذي ثبت أنه بعيد المنال حتى الآن.
قال فارون بادوار، المؤسس المشارك والرئيس التنفيذي لشركة Endor Labs: “كانت مهمتنا دائمًا هي تأمين كل ما يعتمد عليه الكود الخاص بك، ونماذج الذكاء الاصطناعي هي الحدود العظيمة التالية في هذه المهمة الحاسمة.
“تقوم كل مؤسسة بتجربة نماذج الذكاء الاصطناعي، سواء لتشغيل تطبيقات معينة أو بناء أعمال تجارية قائمة على الذكاء الاصطناعي بالكامل. يجب أن يواكب الأمن الوتيرة، وهناك فرصة نادرة هنا للبدء نظيفًا وتجنب المخاطر وتكاليف الصيانة المرتفعة في المستقبل.
وأضاف جورج أبوستولوبولوس، المهندس المؤسس في Endor Labs: “يقوم الجميع حاليًا بتجربة نماذج الذكاء الاصطناعي. تقوم بعض الفرق ببناء أعمال تجارية جديدة تعتمد على الذكاء الاصطناعي بينما يبحث البعض الآخر عن طرق لوضع ملصق “مدعوم بالذكاء الاصطناعي” على منتجاتهم. هناك شيء واحد مؤكد، وهو أن المطورين لديك يلعبون بنماذج الذكاء الاصطناعي.
ومع ذلك، فإن هذه الراحة لا تأتي دون مخاطر. ويحذر أبوستولوبولوس من أن المشهد الحالي يشبه “الغرب المتوحش”، حيث ينتزع الناس النماذج التي تناسب احتياجاتهم دون النظر إلى نقاط الضعف المحتملة.
يتعامل نهج Endor Labs مع نماذج الذكاء الاصطناعي باعتبارها تبعيات ضمن سلسلة توريد البرامج
يقول أبوستولوبولوس: “مهمتنا في Endor Labs هي “تأمين كل ما يعتمد عليه الكود الخاص بك”. يسمح هذا المنظور للمؤسسات بتطبيق منهجيات مماثلة لتقييم المخاطر على نماذج الذكاء الاصطناعي كما تفعل مع المكونات الأخرى مفتوحة المصدر.
تركز أداة Endor لتسجيل نماذج الذكاء الاصطناعي على العديد من مجالات المخاطر الرئيسية:
- الثغرات الأمنية: يمكن أن تحتوي النماذج المدربة مسبقًا على تعليمات برمجية ضارة أو نقاط ضعف ضمن أوزان النماذج، مما قد يؤدي إلى حدوث انتهاكات أمنية عند دمجها في بيئة المؤسسة.
- المسائل القانونية والترخيصية: يعد الامتثال لشروط الترخيص أمرًا بالغ الأهمية، خاصة بالنظر إلى السلالة المعقدة لنماذج الذكاء الاصطناعي ومجموعات التدريب الخاصة بها.
- المخاطر التشغيلية: يؤدي الاعتماد على النماذج المدربة مسبقًا إلى إنشاء رسم بياني معقد قد يكون من الصعب إدارته وتأمينه.
لمكافحة هذه المشكلات، تطبق أداة التقييم الخاصة بـ Endor Labs 50 عملية فحص خارج الصندوق على نماذج الذكاء الاصطناعي في Hugging Face. يُنشئ النظام “نقاط النهاية” استنادًا إلى عوامل مثل عدد المشرفين، ورعاية الشركات، وتكرار الإصدار، ونقاط الضعف المعروفة.
تشمل العوامل الإيجابية في نظام تسجيل نماذج الذكاء الاصطناعي استخدام تنسيقات الوزن الآمنة، ووجود معلومات الترخيص، ومقاييس التنزيل والمشاركة العالية. تشمل العوامل السلبية عدم اكتمال التوثيق، ونقص بيانات الأداء، واستخدام تنسيقات الوزن غير الآمنة.
الميزة الرئيسية لـ Endor Scores هي نهجها سهل الاستخدام. لا يحتاج المطورون إلى معرفة أسماء نماذج محددة؛ يمكنهم بدء بحثهم بأسئلة عامة مثل “ما النماذج التي يمكنني استخدامها لتصنيف المشاعر؟” أو “ما هي النماذج الأكثر شعبية من ميتا؟” توفر الأداة بعد ذلك درجات واضحة لتصنيف الجوانب الإيجابية والسلبية لكل نموذج، مما يسمح للمطورين بتحديد الخيارات الأكثر ملاءمة لاحتياجاتهم.
ويشير أبوستولوبولوس إلى أن “فرقك تُسأل عن الذكاء الاصطناعي كل يوم، وسوف يبحثون عن النماذج التي يمكنهم استخدامها لتسريع الابتكار”. “يساعدك تقييم نماذج الذكاء الاصطناعي مفتوحة المصدر باستخدام Endor Labs على التأكد من أن النماذج التي تستخدمها تفعل ما تتوقع منها أن تفعله، وأنها آمنة للاستخدام.”
(تصوير Element5 Digital)
أنظر أيضا: تقوم شركة China Telecom بتدريب نموذج الذكاء الاصطناعي باستخدام 1 تريليون معلمة على الرقائق المحلية
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الضخمة من قادة الصناعة؟ اطلع على معرض الذكاء الاصطناعي والبيانات الضخمة الذي يقام في أمستردام وكاليفورنيا ولندن. ويقام هذا الحدث الشامل في موقع مشترك مع أحداث رائدة أخرى بما في ذلك مؤتمر الأتمتة الذكية، وBlockX، وأسبوع التحول الرقمي، ومعرض الأمن السيبراني والسحابي.
استكشف الأحداث والندوات عبر الإنترنت القادمة الأخرى المتعلقة بتكنولوجيا المؤسسات والمدعومة من TechForge هنا.