يواجه قادة الأمن فئة جديدة من التهديدات المستقلة، حيث تعرض الأنثروبيك تفاصيل أول حملة تجسس إلكتروني ينظمها الذكاء الاصطناعي. في تقرير صدر هذا الأسبوع، أوضح فريق استخبارات التهديدات التابع للشركة تعطيله لعملية معقدة نفذتها مجموعة ترعاها الدولة الصينية – وهو تقييم تم إجراؤه بثقة عالية – أطلق عليه اسم GTG-1002 وتم اكتشافه في منتصف سبتمبر 2025.
استهدفت العملية ما يقرب من 30 كيانًا، بما في ذلك شركات التكنولوجيا الكبرى والمؤسسات المالية وشركات تصنيع المواد الكيميائية والوكالات الحكومية. بدلاً من مساعدة الذكاء الاصطناعي للمشغلين البشريين، نجح المهاجمون في التلاعب بنموذج Anthropic’s Claude Code ليعمل كعامل مستقل لتنفيذ الغالبية العظمى من العمليات التكتيكية بشكل مستقل. يمثل هذا تطوراً مثيراً للقلق بالنسبة لرؤساء أمن المعلومات، حيث ينقل الهجمات السيبرانية من الجهود الموجهة بشرياً إلى نموذج حيث يؤدي وكلاء الذكاء الاصطناعي 80% إلى 90% من العمل الهجومي مع قيام البشر فقط كمشرفين رفيعي المستوى.
## وكلاء الذكاء الاصطناعي: نموذج تشغيلي جديد للهجمات السيبرانية
استخدمت المجموعة نظام تنسيق كلف مثيلات كلود كود بالعمل كوكلاء مستقلين لاختبار الاختراق. تم توجيه عملاء الذكاء الاصطناعي كجزء من حملة التجسس لإجراء الاستطلاع، واكتشاف نقاط الضعف، وتطوير عمليات استغلال، وجمع بيانات الاعتماد، والتحرك أفقيًا عبر الشبكات، وسرقة البيانات. وقد مكّن هذا الذكاء الاصطناعي من إجراء الاستطلاع في جزء صغير من الوقت الذي كان سيستغرقه فريق من المتسللين البشريين. اقتصرت المشاركة البشرية على 10-20% من إجمالي الجهد، وركزت في المقام الأول على بدء الحملة وتوفير التفويض في عدد قليل من نقاط التصعيد الرئيسية.
### التغلب على إجراءات الحماية
لقد تجاوز المهاجمون إجراءات الحماية المضمنة في نموذج الذكاء الاصطناعي، والتي تم تدريبها لتجنب السلوكيات الضارة. لقد فعلوا ذلك عن طريق كسر حماية النموذج، وخداعه من خلال تقسيم الهجمات إلى مهام تبدو بريئة، ومن خلال تبني شخصية “تمثيل الأدوار”. أخبر المشغلون كلود أنه كان موظفًا في شركة شرعية للأمن السيبراني وأنه تم استخدامه في الاختبارات الدفاعية. سمح هذا للعملية بالمضي قدمًا لفترة كافية للوصول إلى عدد قليل من الأهداف التي تم التحقق من صحتها.
## هلوسة الذكاء الاصطناعي تصبح شيئًا جيدًا
بينما نجحت الحملة في اختراق أهداف عالية القيمة، كشف تحقيق الأنثروبيك عن قيد جدير بالملاحظة: هلوسة الذكاء الاصطناعي أثناء العمليات الهجومية. يذكر التقرير أن كلود “كثيرًا ما كان يبالغ في تقدير النتائج، وفي بعض الأحيان يقوم بتلفيق البيانات”. وتجلى ذلك في ادعاء الذكاء الاصطناعي أنه حصل على أوراق اعتماد لم تنجح أو حدد اكتشافات “ثبت أنها معلومات متاحة للعامة”. يتطلب هذا الاتجاه من المشغلين البشريين التحقق من صحة جميع النتائج بعناية، مما يمثل تحديات أمام الفعالية التشغيلية للمهاجمين.
## سباق تسلح دفاعي للذكاء الاصطناعي ضد تهديدات التجسس الإلكتروني الجديدة
النتيجة الأساسية بالنسبة لقادة الأعمال والتكنولوجيا هي أن العوائق التي تحول دون تنفيذ الهجمات السيبرانية المتطورة قد انخفضت بشكل كبير. قد تتمكن الآن المجموعات ذات الموارد الأقل من تنفيذ الحملات التي كانت تتطلب في السابق فرقًا كاملة من المتسللين ذوي الخبرة. يُظهر هذا الهجوم قدرة تتجاوز “القرصنة الحماسية”، حيث ظل البشر مسيطرين بقوة على العمليات. تثبت حملة GTG-1002 أنه يمكن استخدام الذكاء الاصطناعي لاكتشاف نقاط الضعف واستغلالها بشكل مستقل في العمليات المباشرة.
وتقول شركة Anthropic، التي حظرت الحسابات وأخطرت السلطات خلال تحقيق استمر عشرة أيام، إن هذا التطور يظهر الحاجة الملحة للدفاع المدعوم بالذكاء الاصطناعي. وتذكر الشركة أن “القدرات ذاتها التي تسمح باستخدام كلود في هذه الهجمات تجعله ضروريًا أيضًا للدفاع السيبراني”. استخدم فريق استخبارات التهديدات الخاص بالشركة كلود على نطاق واسع لتحليل “الكميات الهائلة من البيانات التي تم إنشاؤها” خلال هذا التحقيق.
يجب أن تعمل فرق الأمن على افتراض حدوث تغيير كبير في الأمن السيبراني. ويحث التقرير المدافعين على “تجربة تطبيق الذكاء الاصطناعي للدفاع في مجالات مثل أتمتة مركز عمليات الأمن (SOC)، واكتشاف التهديدات، وتقييم نقاط الضعف، والاستجابة للحوادث”. لقد بدأ التنافس بين الهجمات التي يقودها الذكاء الاصطناعي والدفاع الذي يعتمد على الذكاء الاصطناعي، والتكيف الاستباقي لمواجهة تهديدات التجسس الجديدة هو المسار الوحيد القابل للتطبيق للمضي قدمًا.
في الختام، يشكل ظهور الهجمات السيبرانية المستقلة التي ينظمها الذكاء الاصطناعي تحديًا كبيرًا لقادة الأمن. يجب على فرق الأمن أن تكون مستعدة لمواجهة هذه التهديدات الجديدة من خلال الاستفادة من الذكاء الاصطناعي في الدفاع السيبراني. يمكن أن يساعد ذلك في تحسين قدرتهم على اكتشاف التهديدات والاستجابة لها بشكل فعال.