أعلنت شركة Meta، الشركة الأم لفيسبوك، عن إصدار نموذج Llama 3.1 مفتوح المصدر للغة الكبيرة يوم الثلاثاء. سيتوفر LLM الجديد بثلاثة أحجام – 8B و70B و405B – والأخير هو أكبر ذكاء اصطناعي مفتوح المصدر تم بناؤه حتى الآن، والذي يصفه الرئيس التنفيذي لشركة Meta مارك زوكربيرج بأنه “أول نموذج ذكاء اصطناعي مفتوح المصدر على مستوى الحدود”.
“في العام الماضي، كان لاما 2 قابلاً للمقارنة فقط بجيل أقدم من النماذج التي تقع خلف الحدود”، كتب زوكربيرج في منشور على مدونته يوم الثلاثاء. “هذا العام، يتنافس لاما 3 مع النماذج الأكثر تقدمًا ويتصدر في بعض المجالات. بدءًا من العام المقبل، نتوقع أن تصبح نماذج لاما المستقبلية الأكثر تقدمًا في الصناعة”.
تم تدريبه على 15 تريليون رمز باستخدام 16000 وحدة معالجة رسومية H100، تدعي Meta أن نموذج 405B أكبر بكثير من سلفه Llama 3. يقال إنه ينافس أفضل نماذج المصدر المغلق اليوم، مثل OpenAI's GPT-4o، أو Google's Gemini 1.5، أو Anthropic's Claude 3.5 في “المعرفة العامة والرياضيات واستخدام الأدوات والترجمة متعددة اللغات”. توقع زوكربيرج على Instagram يوم الثلاثاء أن يتفوق Meta AI على ChatGPT باعتباره مساعد الذكاء الاصطناعي الأكثر استخدامًا بحلول نهاية العام.
وتشير الشركة إلى أن الإصدارات الثلاثة من Llama 3.1 ستتمتع بطول مطالبات موسع يصل إلى 128 ألف رمز، مما يتيح للمستخدمين توفير سياق إضافي وما يصل إلى كتاب من الوثائق الداعمة. كما ستدعم ثماني لغات عند الإطلاق. وعلاوة على ذلك، عدلت Meta اتفاقية الترخيص الخاصة بها للسماح للمطورين باستخدام مخرجات Llama 3.1 لتدريب نماذج أخرى.
كما أعلنت شركة Meta أنها تتعاون مع أكثر من اثنتي عشرة شركة أخرى في الصناعة لتطوير نظام Llama البيئي بشكل أكبر. وستطلق Amazon وDatabricks وNvidia مجموعات برامج كاملة الخدمات لمساعدة المطورين على ضبط نماذجهم الخاصة استنادًا إلى Llama، بينما قامت شركة Groq الناشئة “ببناء خدمة استدلال منخفضة التكلفة ومنخفضة الكمون” للعائلة الجديدة من نماذج 3.1، كما كتب زوكربيرج.
نظرًا لكونه مفتوح المصدر، سيكون Llama 3.1 متاحًا على جميع خدمات السحابة الرئيسية بما في ذلك AWS وGoogle Cloud وAzure.