لسنوات، حذر خبراء الأمن من أن الذكاء الاصطناعي سيمنح المتسللين في نهاية المطاف ميزة جديدة خطيرة. لقد وصلت تلك اللحظة.
نشرت مجموعة Threat Intelligence Group التابعة لشركة Google تقريرًا يؤكد أن مجموعة قرصنة إجرامية استخدمت نموذج الذكاء الاصطناعي لاكتشاف ثغرة أمنية يوم الصفر وكادت أن تشن هجومًا إلكترونيًا جماعيًا. وتقول جوجل إنها اكتشفت الهجوم وأوقفته قبل أن يتمكن المتسللون من نشر الهجوم على نطاق واسع.
ما الذي حدث بالضبط، وما مدى خطورته؟
استهدفت الثغرة أداة إدارة نظام شائعة ومفتوحة المصدر تعتمد على الويب، وهو النوع الذي تستخدمه الشركات لإدارة الخوادم وحسابات الموظفين وإعدادات الأمان عن بُعد.
ولو لم يتم اكتشافها، لكان قد سمح للمتسللين بتجاوز المصادقة الثنائية، والتي غالبًا ما تكون خط الدفاع الأخير لحماية الحسابات.
خطط المهاجمون لنشره في حدث استغلال جماعي يستهدف عدة منظمات في وقت واحد. قامت Google بتنبيه مطور الأداة في الوقت المناسب لإصدار التصحيح قبل حدوث أي ضرر.
ورفضت الشركة تسمية مجموعة القرصنة، أو البرنامج المحدد المستهدف، أو نموذج الذكاء الاصطناعي الذي تم استخدامه، لكنها أكدت أنها ليست شركة Gemini الخاصة بشركة Google.
وفقًا لشركة جوجل، أبدت المجموعات المرتبطة بالصين وكوريا الشمالية أيضًا اهتمامًا كبيرًا باستخدام أدوات الذكاء الاصطناعي مثل OpenClaw لاكتشاف الثغرات الأمنية.
هل أصبح الذكاء الاصطناعي أكبر نقطة ضعف في الأمن السيبراني؟
إن هجوم جوجل مثير للقلق، لكنه ليس معزولاً على الإطلاق. اكتشف باحثون بجورجيا للتكنولوجيا مؤخرًا VillainNet، وهو باب خلفي مخفي يدمج نفسه داخل الذكاء الاصطناعي للسيارة ذاتية القيادة ويعمل بنسبة 99٪ من الوقت عند تشغيله.
وفي الوقت نفسه، أظهر فريق بحث كوري أنه يمكن إجراء هندسة عكسية لنماذج الذكاء الاصطناعي عن بعد باستخدام هوائي صغير عبر الجدران، دون الحاجة إلى الوصول إلى النظام. في الآونة الأخيرة، تجاوزت مجموعة من مستخدمي Discord عناصر التحكم في الوصول للوصول إلى نموذج Mythos المقيد الخاص بـ Anthropic من خلال بيئة بائع خارجية.
على الجانب الدفاعي، هناك نظام متنامٍ يسمى اختبار الذكاء الاصطناعي (AI pentesting) آخذ في الظهور لاختبار الإجهاد لكيفية تصرف النماذج اللغوية عند تعرضها لمدخلات معادية، لكن هذا المجال لا يزال في مراحله الأولى.