أصدرت Alibaba نموذجًا جديدًا لترميز الذكاء الاصطناعي يسمى QWEN3-CODER ، تم تصميمه للتعامل مع مهام البرامج المعقدة باستخدام نموذج كبير مفتوح المصدر. تعد الأداة جزءًا من عائلة QWEN3 من Alibaba ويتم ترقيتها باعتبارها وكيل الترميز الأكثر تقدماً في الشركة حتى الآن.
يستخدم النموذج مزيجًا من نهج الخبراء (MOE) ، حيث يقوم بتنشيط 35 مليار معلمة من إجمالي 480 مليار ودعم ما يصل إلى 256000 رمز من السياق. يقال إن هذا الرقم يمكن أن يمتد إلى مليون باستخدام تقنيات استقراء خاصة. تدعي الشركة أن QWEN3-CODER تفوقت على نماذج مفتوحة أخرى في المهام الوكلاء ، بما في ذلك إصدارات من Moonshot AI و DEEPSEEK.
ولكن لا يرى الجميع أن هذا أخبار جيدة. يحذر Jurgita Lapienyė ، كبير المحررين في CyberNews ، من أن QWEN3-COMER قد يكون أكثر من مجرد مساعد ترميز مفيد-يمكن أن يشكل خطرًا حقيقيًا على أنظمة التكنولوجيا العالمية إذا اعتمدها المطورين الغربيون على نطاق واسع.
حصان طروادة في ملابس مفتوحة المصدر؟
ركزت رسائل Alibaba حول Qwen3-Conder على قوتها التقنية ، ومقارنتها بالأدوات ذات المستوى الأعلى من Openai والأنثروبولوجيا. ولكن على الرغم من أن الدرجات والميزات القياسية لفتت الانتباه ، فإن Lapienyė تشير إلى أنها قد تصرف الانتباه عن القضية الحقيقية: الأمان.
ليس الأمر أن الصين تلحق بالركب في الذكاء الاصطناعي – هذا معروف بالفعل. إن القلق الأعمق يدور حول المخاطر الخفية المتمثلة في استخدام البرامج التي تم إنشاؤها بواسطة أنظمة الذكاء الاصطناعي التي يصعب فحصها أو فهمها بالكامل.
على حد تعبير Lapienyė ، يمكن أن يكون المطورون “نومًا في مستقبل” حيث يتم بناء الأنظمة الأساسية بشكل غير معروف برمز ضعيف. قد تجعل الأدوات مثل QWEN3-COMER الحياة أسهل ، لكنها يمكن أن تقدم أيضًا نقاط ضعف خفية تمر دون أن يلاحظها أحد.
هذا الخطر ليس افتراضيًا. استعرض باحثو CyberNews مؤخرًا استخدام الذكاء الاصطناعى عبر الشركات الأمريكية الكبرى ووجدوا أن 327 من S&P 500 تقريراً علنيًا باستخدام أدوات الذكاء الاصطناعى. في تلك الشركات وحدها ، حدد الباحثون ما يقرب من 1000 من نقاط الضعف المتعلقة بالنيابة.
يمكن إضافة نموذج آخر من الذكاء الاصطناعي – خاصةً نموذجًا تم تطويره بموجب قوانين الأمن القومي الصارمة الصينية – إضافة طبقة أخرى من المخاطر ، وهو من الصعب السيطرة عليه.
عندما يصبح الكود الباب الخلفي
يميل مطورو اليوم بشكل كبير على أدوات الذكاء الاصطناعي لكتابة الكود وإصلاح الأخطاء وتشكيل كيفية بناء التطبيقات. هذه الأنظمة سريعة ومفيدة وتتحسن كل يوم.
ولكن ماذا لو تم تدريب تلك الأنظمة نفسها على حقن العيوب؟ غير واضحة ، ولكن المشكلات الصغيرة التي يصعب الانطلاق التي لن تؤدي إلى إنذار. قد لا يتم اكتشاف الضعف الذي يبدو وكأنه قرار التصميم غير الضار لسنوات.
هذه هي الطريقة التي تبدأ بها هجمات سلسلة التوريد. تُظهر الأمثلة السابقة ، مثل حادثة Solarwinds ، إلى أي مدى يمكن إجراء تسلل طويل الأجل بهدوء وبصبر. مع ما يكفي من الوصول والسياق ، يمكن أن يتعلم نموذج الذكاء الاصطناعى كيفية زراعة مشكلات مماثلة – خاصة إذا كان لديه تعرض لملايين كود.
إنها ليست مجرد نظرية. بموجب قانون الاستخبارات الوطنية في الصين ، يتعين على شركات مثل Alibaba التعاون مع الطلبات الحكومية ، بما في ذلك تلك التي تنطوي على البيانات ونماذج الذكاء الاصطناعي. هذا يحول المحادثة من الأداء الفني إلى الأمن القومي.
ماذا يحدث للرمز الخاص بك؟
قضية رئيسية أخرى هي التعرض للبيانات. عندما يستخدم المطورون أدوات مثل QWEN3-COMER للكتابة أو تصحيح رمز ، يمكن أن يكشف كل جزء من هذا التفاعل عن معلومات حساسة.
قد يشمل ذلك خوارزميات الملكية أو منطق الأمن أو تصميم البنية التحتية – بشكل كامل نوع التفاصيل التي يمكن أن تكون مفيدة لدولة أجنبية.
على الرغم من أن النموذج مفتوح المصدر ، إلا أنه لا يزال هناك الكثير الذي لا يستطيع المستخدمون رؤيته. قد لا تكون البنية التحتية الخلفية وأنظمة القياس عن بعد وطرق تتبع الاستخدام شفافة. هذا يجعل من الصعب معرفة أين تذهب البيانات أو ما قد يتذكره النموذج بمرور الوقت.
الحكم الذاتي دون الإشراف
ركزت Alibaba أيضًا على عميل AI – النموذج الذي يمكن أن يتصرف بشكل أكثر استقلالية من المساعدين القياسيين. هذه الأدوات لا تقترح فقط خطوط الكود. يمكن تعيينهم مهام كاملة ، والعمل مع الحد الأدنى من المدخلات ، واتخاذ القرارات بمفردها.
قد يبدو هذا فعالًا ، لكنه يرفع أيضًا أعلامًا حمراء. قد تصبح عامل ترميز مستقلًا بالكامل يمكنه مسح قواعد الكود بأكملها وإجراء التغييرات خطرة في الأيدي الخطأ.
تخيل وكيلًا يمكنه فهم دفاعات نظام الشركة والهجمات المصممة لاستغلالها. نفس مجموعة المهارات التي تساعد المطورين على التحرك بشكل أسرع يمكن إعادة استخدامها من قبل المهاجمين للتحرك بشكل أسرع.
لا يزال التنظيم غير جاهز
على الرغم من هذه المخاطر ، لا تتناول اللوائح الحالية أدوات مثل QWEN3-CODER بطريقة مفيدة. أمضت حكومة الولايات المتحدة سنوات في مناقشة مخاوف خصوصية البيانات المرتبطة بتطبيقات مثل Tiktok ، ولكن هناك القليل من الإشراف العام على أدوات الذكاء الاصطناعى الأجنبية.
مجموعات مثل لجنة الاستثمار الأجنبي في عمليات الاستحواذ على الشركة في الولايات المتحدة (CFIUS) ، ولكن لا توجد عملية مماثلة لمراجعة نماذج الذكاء الاصطناعى التي قد تشكل مخاطر الأمن القومي.
يركز الأمر التنفيذي للرئيس بايدن على الذكاء الاصطناعي بشكل أساسي على النماذج المحلية وممارسات السلامة العامة. لكنه يترك مخاوف بشأن الأدوات المستوردة التي يمكن تضمينها في بيئات حساسة مثل الرعاية الصحية أو المالية أو البنية التحتية الوطنية.
يجب التعامل مع أدوات الذكاء الاصطناعى القادرة على كتابة أو تغيير التعليمات البرمجية بنفس خطورة تهديدات سلسلة التوريد البرمجيات. وهذا يعني تحديد إرشادات واضحة للمكان وكيف يمكن استخدامها.
ماذا يجب أن يحدث بعد ذلك؟
للحد من المخاطر ، يجب أن تتوقف المؤسسات التي تتعامل مع الأنظمة الحساسة قبل دمج QWEN3-COMER-أو أي AI AGENIC AGENTIC-DEVENCED-في سير عملها. إذا لم تكن تدعو شخصًا لا تثق به للنظر في رمز المصدر الخاص بك ، فلماذا تدع الذكاء الاصطناعي يعيد كتابته؟
تحتاج أدوات الأمن أيضًا إلى اللحاق بالركب. قد لا يكتشف برنامج التحليل الثابت أجهزة خلفية معقدة أو مشكلات منطقية خفية صاغها الذكاء الاصطناعي. تحتاج الصناعة إلى أدوات جديدة مصممة خصيصًا للعلامة واختبار التعليمات البرمجية التي يتم إنشاؤها من الذكاء الاصطناعي للأنماط المشبوهة.
أخيرًا ، يجب على المطورين وقادة التكنولوجيا والمنظمين أن يفهموا أن الذكاء الاصطناعى المولود في الكود ليس محايدًا. هذه الأنظمة لها قوة – كأدوات مفيدة وتهديدات محتملة. نفس الميزات التي تجعلها مفيدة يمكن أن تجعلها خطرة.
دعا Lapienyė Qwen3 رافض “حصان طروادة محتمل” ، والاستعارة يناسب. الأمر لا يتعلق فقط بالإنتاجية. إنه يتعلق بمن الموجود داخل البوابات.
لا يتفق الجميع على ما يهم
يرى وانغ جيان ، مؤسس Alibaba Cloud ، الأمور بشكل مختلف. في مقابلة مع بلومبرجوقال إن الابتكار لا يتعلق بتوظيف أغلى المواهب ولكن حول اختيار الأشخاص الذين يمكنهم بناء المجهول. وانتقد نهج وادي السيليكون في توظيف الذكاء الاصطناعي ، حيث يتنافس عمالقة التكنولوجيا الآن على كبار الباحثين مثل الفرق الرياضية التي تقدم العطاءات على الرياضيين.
قال وانغ: “الشيء الوحيد الذي عليك فعله هو الحصول على الشخص المناسب”. “ليس حقا الشخص باهظ الثمن.”
كما يعتقد أن سباق الذكاء الاصطناعى الصيني صحي وليس معادي. وفقًا لـ Wang ، تتناوب الشركات إلى الأمام ، مما يساعد النظام الإيكولوجي بأكمله على النمو بشكل أسرع.
وقال “يمكنك الحصول على التكرار السريع للغاية للتكنولوجيا بسبب هذه المنافسة”. “لا أعتقد أنها وحشية ، لكنني أعتقد أنها صحي للغاية.”
ومع ذلك ، فإن المنافسة المفتوحة المصدر لا تضمن الثقة. يحتاج المطورون الغربيون إلى التفكير بعناية في الأدوات التي يستخدمونها – ومن قاموا ببناءها.
خلاصة القول
قد يوفر QWEN3-COMER أداءً رائعًا وإمكانية الوصول المفتوح ، لكن استخدامه يأتي مع مخاطر تتجاوز المعايير وسرعة الترميز. في الوقت الذي تقوم فيه أدوات الذكاء الاصطناعى بتشكيل مدى أهمية أنظمة ، لا يستحق السؤال عن ما يمكن أن تفعله هذه الأدوات فقط – ولكن من يستفيد من ذلك.
(تصوير شهادات الرحمن)
راجع أيضًا: يقوم طراز QWEN الجديد من AI بإعداد سجلات Open Source
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الكبيرة من قادة الصناعة؟ تحقق من AI و Big Data Expo الذي يقام في أمستردام ، كاليفورنيا ، ولندن. تم تحديد الحدث الشامل مع الأحداث الرائدة الأخرى بما في ذلك مؤتمر الأتمتة الذكي ، و blockx ، وأسبوع التحول الرقمي ، ومعرض Cyber Security & Cloud.
استكشاف أحداث وندوات الويب القادمة الأخرى التي تعمل بها TechForge هنا.