تعرضت شركة ByteDance، الشركة المصنعة لتطبيق TikTok، مؤخرًا لخرق أمني تورط فيه متدرب يُزعم أنه قام بتخريب التدريب على نماذج الذكاء الاصطناعي. وأثار الحادث، الذي تم الإبلاغ عنه على WeChat، مخاوف بشأن بروتوكولات الأمان الخاصة بالشركة في قسم الذكاء الاصطناعي.
ردًا على ذلك، أوضحت ByteDance أنه بينما قام المتدرب بتعطيل جهود تسويق الذكاء الاصطناعي، لم تتأثر أي عمليات أو مشاريع تجارية عبر الإنترنت. وفقًا للشركة، فإن الشائعات التي تفيد بأن أكثر من 8000 بطاقة GPU قد تأثرت وأن الاختراق أدى إلى خسائر بملايين الدولارات تعتبر غير متناسبة.
المشكلة الحقيقية هنا تتجاوز مجرد متدرب مارق، فهي تسلط الضوء على الحاجة إلى تدابير أمنية أكثر صرامة في شركات التكنولوجيا، خاصة عندما يتم تكليف المتدربين بمسؤوليات رئيسية. حتى الأخطاء البسيطة في البيئات ذات الضغط العالي يمكن أن يكون لها عواقب وخيمة.
أثناء التحقيق، وجدت ByteDance أن المتدرب، وهو طالب دكتوراه، كان جزءًا من فريق تكنولوجيا التسويق، وليس مختبر الذكاء الاصطناعي. وتم فصل هذا الشخص في أغسطس/آب.
وفقًا لوسائل الإعلام المحلية Jiemian، أصيب المتدرب بالإحباط بسبب تخصيص الموارد وانتقم من خلال استغلال ثغرة أمنية في منصة تطوير الذكاء الاصطناعي Hugging Face. أدى هذا إلى اضطرابات في تدريب النماذج، على الرغم من أن نموذج Doubao التجاري لشركة ByteDance لم يتأثر.
على الرغم من التعطيل، كافح فريق التعلم الآلي الآلي (AML) في ByteDance في البداية لتحديد السبب. ولحسن الحظ، لم يؤثر الهجوم إلا على النماذج الداخلية، مما يقلل من الأضرار الأوسع.
وفي السياق، فإن سوق الذكاء الاصطناعي في الصين، الذي تقدر قيمته بـ 250 مليار دولار في عام 2023، يتزايد بسرعة في الحجم، حيث يقود قادة الصناعة مثل Baidu AI Cloud وSenseRobot وZhipu AI الابتكار. ومع ذلك، فإن مثل هذه الحوادث تشكل خطرًا كبيرًا على تسويق تكنولوجيا الذكاء الاصطناعي، حيث ترتبط دقة النموذج وموثوقيته ارتباطًا مباشرًا بنجاح الأعمال.
يثير الوضع أيضًا تساؤلات حول الإدارة المتدربة في شركات التكنولوجيا. غالبًا ما يلعب المتدربون أدوارًا حاسمة في البيئات سريعة الخطى، ولكن بدون الإشراف المناسب وبروتوكولات الأمان، يمكن أن تشكل أدوارهم مخاطر. يجب على الشركات التأكد من حصول المتدربين على التدريب والإشراف المناسبين لمنع الإجراءات غير المقصودة أو الخبيثة التي قد تعطل العمليات.
الآثار المترتبة على تسويق الذكاء الاصطناعي
يسلط الاختراق الأمني الضوء على المخاطر المحتملة لتسويق الذكاء الاصطناعي. يمكن أن يؤدي أي خلل في التدريب على نماذج الذكاء الاصطناعي، مثل هذا، إلى تأخير إصدار المنتجات، وفقدان ثقة العملاء، وحتى خسائر مالية. بالنسبة لشركة مثل ByteDance، حيث يقوم الذكاء الاصطناعي بتشغيل الوظائف الأساسية، فإن هذا النوع من الحوادث يكون ضارًا بشكل خاص.
يؤكد هذا العدد على أهمية تطوير الذكاء الاصطناعي الأخلاقي ومسؤولية الأعمال. ولا يتعين على الشركات تطوير تقنيات الذكاء الاصطناعي المتطورة فحسب، بل يجب عليها أيضًا ضمان أمنها وتشغيل الإدارة المسؤولة. تعد الشفافية والمساءلة أمرًا بالغ الأهمية للحفاظ على الثقة في عصر يلعب فيه الذكاء الاصطناعي دورًا مهمًا في العمليات التجارية.
(تصوير جوناثان كيمبر)
أنظر أيضًا: تكتسب Microsoft عميلاً رئيسيًا للذكاء الاصطناعي حيث تنفق TikTok 20 مليون دولار شهريًا
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الضخمة من قادة الصناعة؟ اطلع على معرض الذكاء الاصطناعي والبيانات الضخمة الذي يقام في أمستردام وكاليفورنيا ولندن. ويقام هذا الحدث الشامل في موقع مشترك مع أحداث رائدة أخرى بما في ذلك مؤتمر الأتمتة الذكية، وBlockX، وأسبوع التحول الرقمي، ومعرض الأمن السيبراني والسحابي.
استكشف الأحداث والندوات عبر الإنترنت القادمة الأخرى المتعلقة بتكنولوجيا المؤسسات والمدعومة من TechForge هنا.