أصدرت شركة هواوي مجموعة شرائح CloudMatrix 384 AI، وهو نظام جديد لتعلم الذكاء الاصطناعي. وهي تستخدم مجموعات من معالجات Ascend 910C، المرتبطة عبر الروابط الضوئية. تعني البنية الموزعة أن النظام يمكن أن يتفوق في أداء إعدادات وحدة معالجة الرسومات التقليدية للأجهزة، لا سيما من حيث استخدام الموارد والوقت على الرقاقة، على الرغم من كون شرائح Ascend الفردية أقل قوة من تلك الخاصة بالمنافسين.
وتدعي الشركة أن إطار العمل الجديد لشركة Huawei يضع عملاق التكنولوجيا على أنه “منافس هائل لمكانة Nvidia الرائدة في السوق، على الرغم من العقوبات الأمريكية المستمرة”.
لاستخدام إطار عمل Huawei الجديد للذكاء الاصطناعي، سيحتاج مهندسو البيانات إلى تكييف سير عملهم، باستخدام أطر العمل التي تدعم معالجات Huawei Ascend، مثل MindSpore، المتوفرة من Huawei وشركائها.
انتقال الإطار: من PyTorch/TensorFlow إلى MindSpore
على عكس النظام البيئي لـ NVIDIA، الذي يستخدم في الغالب أطر عمل مثل PyTorch وTensorFlow (المصممة للاستفادة الكاملة من CUDA)، فإن معالجات Huawei Ascend تعمل بشكل أفضل عند استخدامها مع MindSpore، وهو إطار عمل للتعلم العميق طورته الشركة.
إذا كان لدى مهندسي البيانات بالفعل نماذج مدمجة في PyTorch أو TensorFlow، فمن المحتمل أن يحتاجوا إلى تحويل النماذج إلى تنسيق MindSpore أو إعادة تدريبهم باستخدام MindSpore API.
تجدر الإشارة إلى أن MindSpore يستخدم تركيبًا مختلفًا وخطوط تدريب واستدعاءات وظيفية من PyTorch أو TensorFlow، لذا ستكون هناك حاجة إلى درجة من إعادة الهندسة لتكرار النتائج من بنيات النماذج وخطوط أنابيب التدريب. على سبيل المثال، يختلف سلوك المشغل الفردي، مثل أوضاع الحشو في طبقات الالتواء والتجميع. هناك أيضًا اختلافات في طرق تهيئة الوزن الافتراضية.
استخدام MindIR لنشر النموذج
تستخدم شركة MindSpore نظام MindIR (التمثيل الوسيط لـMindSpore)، وهو نظير قريب لـ Nvidia NIM. وفقًا للتوثيق الرسمي لـ MindSpore، بمجرد تدريب النموذج في MindSpore، يمكن تصديره باستخدام الأداة المساعدة Mindpore.export، التي تحول الشبكة المدربة إلى تنسيق MindIR.
بالتفصيل في دليل DeepWiki، يتضمن نشر نموذج للاستدلال عادةً تحميل نموذج MindIR المُصدَّر ثم تشغيل التنبؤات باستخدام واجهات برمجة تطبيقات الاستدلال الخاصة بـ MindSpore لرقائق Ascend، التي تتعامل مع إلغاء تسلسل النموذج وتخصيصه وتنفيذه.
يفصل MindSpore بين منطق التدريب والاستدلال بشكل أكثر وضوحًا من PyTorch أو TensorFlow. لذلك، يجب أن تتوافق جميع عمليات المعالجة المسبقة مع مدخلات التدريب، كما يجب تحسين تنفيذ الرسم البياني الثابت. يوصى باستخدام MindSpore Lite أو Ascend Model Zoo لإجراء ضبط إضافي خاص بالأجهزة.
التكيف مع CANN (الهندسة الحاسوبية للشبكات العصبية)
تتميز شبكة CANN من هواوي بمجموعة من الأدوات والمكتبات المصممة لبرنامج Ascend، والتي توازي وظيفة CUDA من NVIDIA. توصي شركة Huawei باستخدام أدوات تحديد الملفات وتصحيح الأخطاء الخاصة بـ CANN لمراقبة أداء النموذج وتحسينه على أجهزة Ascend.
أوضاع التنفيذ: GRAPH_MODE مقابل PYNATIVE_MODE
توفر MindSpore وضعين للتنفيذ:
- GRAPH_MODE – يجمع الرسم البياني حساب قبل التنفيذ. يمكن أن يؤدي ذلك إلى تنفيذ أسرع وتحسين الأداء بشكل أفضل حيث يمكن تحليل الرسم البياني أثناء التجميع.
- PYNATIVE_MODE – ينفذ العمليات على الفور، مما يؤدي إلى عمليات تصحيح أبسط، وبالتالي أكثر ملاءمة للمراحل الأولى من تطوير النموذج، نظرًا لتتبع الأخطاء الأكثر دقة.
للتطوير الأولي، يوصى باستخدام PYNATIVE_MODE لإجراء اختبارات وتصحيحات تكرارية أبسط. عندما تكون النماذج جاهزة للنشر، يمكن أن يساعد التبديل إلى GRAPH_MODE في تحقيق أقصى قدر من الكفاءة على أجهزة Ascend. يتيح التبديل بين الأوضاع للفرق الهندسية تحقيق التوازن بين مرونة التطوير وأداء النشر.
يجب تعديل الكود لكل وضع. على سبيل المثال، عندما تكون في GRAPH_MODE، فمن الأفضل تجنب تدفق التحكم الأصلي في Python حيثما أمكن ذلك.
بيئة النشر: Huawei ModelArts
كما قد تتوقع، تم دمج ModelArts من Huawei، وهي منصة تطوير ونشر الذكاء الاصطناعي القائمة على السحابة للشركة، بشكل وثيق مع أجهزة Ascend من Huawei وإطار عمل MindSpore. على الرغم من أنه يمكن مقارنته بمنصات مثل AWS SageMaker وGoogle Vertex AI، إلا أنه تم تحسينه لمعالجات الذكاء الاصطناعي من هواوي.
تقول Huawei إن ModelArts تدعم المسار الكامل بدءًا من تصنيف البيانات والمعالجة المسبقة وحتى تدريب النماذج ونشرها ومراقبتها. كل مرحلة من مراحل خط الأنابيب متاحة عبر واجهة برمجة التطبيقات (API) أو واجهة الويب.
في ملخص
قد يتطلب التكيف مع MindSpore وCANN التدريب والوقت، خاصة للفرق المعتادة على النظام البيئي لـ NVIDIA، حيث يحتاج مهندسو البيانات إلى فهم العمليات الجديدة المتنوعة. يتضمن ذلك كيفية تعامل CANN مع تجميع النماذج وتحسينها لأجهزة Ascend، وضبط مسارات الأدوات والأتمتة المصممة في البداية لوحدات معالجة الرسومات NVIDIA، وتعلم واجهات برمجة التطبيقات الجديدة ومسارات العمل الخاصة بـ MindSpore.
على الرغم من أن أدوات هواوي تتطور، إلا أنها تفتقر إلى النضج والاستقرار ودعم النظام البيئي الأوسع الذي توفره أطر العمل مثل PyTorch مع CUDA. ومع ذلك، تأمل هواوي أن يؤدي الانتقال إلى عملياتها وبنيتها التحتية إلى تحقيق نتائج جيدة من حيث النتائج، والسماح للمؤسسات بتقليل الاعتماد على شركة Nvidia التي يقع مقرها في الولايات المتحدة.
قد تكون معالجات Ascend من Huawei قوية ومصممة لأعباء عمل الذكاء الاصطناعي، لكن توزيعها محدود فقط في بعض البلدان. قد تواجه الفرق خارج الأسواق الأساسية لشركة Huawei صعوبة في اختبار النماذج أو نشرها على أجهزة Ascend، ما لم تستخدم منصات شريكة، مثل ModelArts، التي توفر الوصول عن بعد.
ولحسن الحظ، توفر شركة Huawei أدلة شاملة للترحيل ودعمًا وموارد لدعم أي عملية انتقال.
(مصدر الصورة: “Huawei P9” من تصميم 405 Mi16 مرخص بموجب CC BY-NC-ND 2.0.)
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الضخمة من قادة الصناعة؟ اطلع على معرض الذكاء الاصطناعي والبيانات الضخمة الذي يقام في أمستردام وكاليفورنيا ولندن. يعد هذا الحدث الشامل جزءًا من TechEx ويقام في مكان مشترك مع الأحداث التكنولوجية الرائدة الأخرى. انقر هنا لمزيد من المعلومات.
يتم تشغيل AI News بواسطة TechForge Media. استكشف الأحداث والندوات عبر الإنترنت القادمة الأخرى المتعلقة بتكنولوجيا المؤسسات هنا.