عندما يفكر الناس في الذكاء الاصطناعي ، فإنهم غالبًا ما يفكرون في النماذج التي تعمل في السحابة مثل chatgpt أو Google Gemini. ولكن هناك طريقة بسيطة بشكل لا يصدق لتشغيل الذكاء الاصطناعي المحلي على جهاز الكمبيوتر الخاص بك والتي طبقت Microsoft للتو.
أعلنت Microsoft عن Microsoft Foundry Local هذا الأسبوع الماضي في مؤتمر Build. إنها في الأساس أداة سطر أوامر تعمل LLMs محليًا على جهازك. على الرغم من أنها تستهدف في البداية المطورين ، إلا أنها واحدة من أسهل الطرق لتجربة الذكاء الاصطناعي المحلي لمجرد أنها تفعل كل شيء من أجلك. ويفعل شيئًا آخر أيضًا: إنه يعمل على تحسين جهاز الكمبيوتر الخاص بك.
واحدة من أروع الميزات حول Windows التي لا تستخدمها هي ما يعرف باسم “Winget” ، وهو مثل Doordash للتطبيقات. بدلاً من التنقل إلى موقع ويب أو متجر Microsoft ، والعثور على رابط التنزيل ، وإخبار Windows أين يجب أن يذهب كل شيء ، يمكنك ببساطة فتح سطر الأوامر و “Winget” ما تريد. يقوم Windows و Microsoft فقط بكل شيء آخر من أجلك ، تلقائيًا. لا تحتاج إلى تسجيل الدخول في موقع إلكتروني من طرف ثالث أيضًا.
مسبك AI الأعمال المحلية بنفس الطريقة. كل ما عليك فعله هو قطع أوصر أوامر من هذه المقالة ، وستكون مستيقظًا في أي وقت من الأوقات. إليك كيفية القيام بذلك ، مع يد العون من Microsoft. مايكروسوفت تفعل لا قل ذلك يحتاج وحدة معالجة الرسومات المخصصة أو NPU ، لكنها تساعد. في الأساس ، ستحتاج إلى نظام التشغيل Windows 10 أو 11 ، على الأقل 8 جيجابايت من ذاكرة الوصول العشوائي و 3 جيجابايت من التخزين (موصى به ذاكرة وصول عشوائي 16 جيجابايت إلى جانب مساحة القرص 15 جيجابايت). يعد جهاز الكمبيوتر Copilot+ اختياريًا ، ولكنك ستستفيد من معالج Qualcomm Snapdragon X Elite ، وسلسلة Nvidia RTX 2000 ، أو وحدة معالجة الرسومات AMD Radeon 6000 أو أحدث.
لاستخدام Foundry Local ، ستحتاج أولاً إلى …
1.) فتح محطة سطر الأوامر. فقط اكتب مفتاح Windows وابدأ في كتابة “Terminal”. يجب أن ترى تطبيق Windows Terminal يظهر في قائمة التطبيقات المقترحة ، على الرغم من أنه قد يظهر أيضًا على أنه Windows PowerShell. لا يهم حقًا.
2.) في المطالبة ، اكتب:
winget install Microsoft.FoundryLocal
سيتعين عليك الانتظار لمدة دقيقة أو دقيقتين أثناء تنزيل الملفات اللازمة. لكن Microsoft سوف تتعامل مع كل شيء من أجلك.
3.) تقترح Microsoft تشغيل طراز PHI-3.5-MINI ، وهو خيار جيد: إنه صغير وسريع للتنزيل ، وربما يعطيك استجابة سريعة. لتنزيله وتشغيله ، اكتب:
foundry model run phi-3.5-mini
هذا كل ما عليك فعله. سترى بعد ذلك تطبيق الطرفية يخبرك بشكل أساسي بإدخال موجه مثل “هل السماء الأزرق على المريخ؟” أو أي شيء آخر.
4.) ليس عليك الالتزام بنموذج PHI-3.5-MINI فقط. يمكنك الكتابة
foundry model listوالحصول على قائمة من النماذج المتاحة. ما عليك سوى تبديل “PHI-3.5-MINI” مع أحد النماذج المتاحة وأنت على ما يرام. (استخدم اسم النموذج من العمود الأيسر ، لكن لا تعرقه-يبدو أنه يعرف ما أردت.)
مرة أخرى ، ما هو لطيف في Foundry Local AI هو أنه محلي على جهاز الكمبيوتر الخاص بك-على الرغم من أن نموذج Phi-Mini أصر على أنه يتواصل مع Microsoft لمعالجة المعلومات. (للتحقق من ذلك ، وضعت جهاز الكمبيوتر الخاص بي في وضع الطائرة.) إنه أيضًا سريع وفعال ، ويرجع ذلك جزئيًا إلى التنزيلات المحلية لـ Foundry AI لأفضل نموذج لجهاز الكمبيوتر الخاص بك. إذا كان لديك NPU أو GPU متاح ، فإنه يختار الإصدار الصحيح.
تم تصميم Foundry AI Local للمطورين ، بحيث يمكنك تفرع وتحويل نماذج أخرى إلى شيء يمكنك تشغيله على جهاز الكمبيوتر الخاص بك أو حتى النقر افتراضيًا في “الوكلاء” لأداء المهام. مقاطع الفيديو المثال التي شاهدتها اقترحت استخدام أشياء مثل استخراج النص باستخدام عنصر واجهة مستخرج نص ، والذي يتم دمجه في أداة Snipping Windows. قد تستخدم ذلك جيدًا بدلاً من ذلك.
لقد جادلت قبل أن صانعي الأجهزة وصانعي الرقائق يحتاجون إلى الاستثمار في تطوير تطبيقات الذكاء الاصطناعى المحلي. ملعب Intel's AI يفعل ذلك تمامًا وهو بسيط وسهل الاستخدام. لكن Intel قد تقيدها على مجموعة فرعية من تشكيلة المعالج الخاصة بها ، وفي نهاية اليوم ، تم تحسينها فقط لمعالجات Intel.
Microsoft Foundry AI Local مفتوح للجميع ، لكنه أيضًا مجرد LLM chatbot في الوقت الحالي. هذا مفيد ، وقد بدأت Microsoft بالفعل العمل عليها. هل يمكن أن نرى الفن يضاف إليه؟ القدرة على تحميل وتدريب النموذج على المستندات الخاصة بك؟ من يدري.
أنا لست هنا لأخبرك أن Foundry AI Local أفضل من ChatGpt أو Gemini أو Copilot في السحابة. ليست كذلك. Foundry AI Local هو تطبيق محلي يعتمد على النص لا يمكنه فعل أي شيء أكثر من مجموعة من الخدمات المستندة إلى مجموعة النظراء المتاحة بالفعل. لكنها سريعة للغاية وسهلة التشغيل ، وتقوم Microsoft ببناءها بهدوء في Windows. قد يتحمل هذا الثمار في المستقبل.