الأمن السيبراني في خضم سباق التسلح الجديد ، والسلاح القوي المفضل في هذا العصر الجديد هو منظمة العفو الدولية.
يقدم AI سيفًا كلاسيكيًا ذو حدين: درع قوي للمدافعين وأداة جديدة قوية لأولئك الذين لديهم نية ضارة. يتطلب التنقل في ساحة المعركة المعقدة هذا يد ثابتة وفهم عميق لكل من التكنولوجيا والأشخاص الذين سيسيئون استخدامها.
للحصول على منظر من الخطوط الأمامية ، اشتعلت AI News مع راشيل جيمس ، مهندس ذكاء التهديد الرئيسي في شركة ABBVIE Global Abbvie.
“بالإضافة إلى تكبير الذكاء الاصطناعى الذي تم تقديمه في أدواتنا الحالية ، نستخدم أيضًا تحليل LLM على اكتشافنا وملاحظاتنا وعلاقاتنا والقواعد المرتبطة بها” ، يوضح جيمس.
تستخدم جيمس وفريقها نماذج لغوية كبيرة للخلع من خلال جبل من التنبيهات الأمنية ، والبحث عن أنماط ، واكتشاف التكرارات ، وإيجاد فجوات خطيرة في دفاعاتهم قبل أن يتمكن المهاجم من ذلك.
وتضيف: “نستخدم هذا لتحديد التشابه والازدواج وتوفير تحليل الفجوة” ، مشيرة إلى أن الخطوة التالية هي نسج بيانات التهديد الخارجية. “نحن نتطلع إلى تعزيز هذا مع دمج ذكاء التهديد في مرحلتنا التالية.”
يعد منصة ذكاء التهديد المتخصصة في هذه العملية عبارة عن منصة متخصصة في مجال التهديدات التي تسمى OpenCti ، والتي تساعدهم على بناء صورة موحدة للتهديدات من بحر من الضوضاء الرقمية.
الذكاء الاصطناعي هو المحرك الذي يجعل هذا الجهد السيبراني الأمن ممكنًا ، مع أخذ كميات هائلة من النص المختلط وغير المنظم وتنظيمه بدقة في تنسيق قياسي يعرف باسم Stix. يقول جيمس إن الرؤية الكبرى هي استخدام نماذج اللغة لتوصيل هذه الذكاء الأساسي مع جميع المجالات الأخرى من عملياتها الأمنية ، من إدارة الضعف إلى مخاطر الطرف الثالث.
الاستفادة من هذه القوة ، ومع ذلك ، يأتي مع جرعة صحية من الحذر. كمساهم رئيسي في مبادرة الصناعة الرئيسية ، يدرك جيمس تمامًا المزالق.
“سأكون مقصرا إذا لم أذكر عمل مجموعة رائعة من الناس أنا جزء منها -” Owasp Top 10 for Genai “كوسيلة تأسيسية لفهم نقاط الضعف التي يمكن لجيناي تقديمها” ، كما تقول.
إلى جانب نقاط الضعف المحددة ، يشير جيمس إلى ثلاثة مفاضلات أساسية يجب على قادة الأعمال مواجهتها:
- قبول المخاطر التي تأتي مع الطبيعة الإبداعية ولكن لا يمكن التنبؤ بها في كثير من الأحيان من الذكاء الاصطناعي التوليدي.
- فقدان الشفافية في كيفية وصول الذكاء الاصطناعى إلى استنتاجاتها ، وهي مشكلة لا تنمو إلا لأن النماذج تصبح أكثر تعقيدًا.
- إن خطر الحكم بشكل سيء على العائد الحقيقي على الاستثمار لأي مشروع منظمة العفو الدولية ، حيث يمكن أن يؤدي الضجيج بسهولة إلى المبالغة في تقدير الفوائد أو التقليل من جهد الجهد المطلوب في هذا المجال السريع.
لبناء وضع أفضل للأمن السيبراني في عصر الذكاء الاصطناعي ، عليك أن تفهم المهاجم الخاص بك. هذا هو المكان الذي تلعب فيه خبرة جيمس العميقة.
“هذه هي في الواقع خبرتي الخاصة – لدي خلفية استخبارات تهديد عبر الإنترنت وقمت بتوثيق وتوثيق أبحاث مكثفة في مصلحة ممثل التهديد واستخدامها وتطويرها من الذكاء الاصطناعي” ، تلاحظ.
يتتبع جيمس بنشاط الثرثرة العددية وتطوير الأدوات من خلال قنوات مفتوحة المصدر ومجموعاتها الآلية الخاصة بها من شبكة Dark Web ، وتبادل النتائج التي توصلت إليها على Cybershujin Github. عملها ينطوي أيضًا على الحصول على يديها القذرة.
“بصفتي المقدمة لدخول الحقن السريع لـ OWASP ، والمؤلف المشارك لدليل Red Teaming Genai ، أقضي أيضًا وقتًا في تطوير تقنيات المدخلات العدائية بنفسي والحفاظ على شبكة من الخبراء أيضًا في هذا المجال” ، يضيف جيمس.
إذن ، ماذا يعني كل هذا لمستقبل الصناعة؟ لجيمس ، المسار إلى الأمام واضح. وهي تشير إلى موازٍ رائع اكتشفته منذ سنوات: “دورة حياة ذكاء التهديد السيبراني متطابقة تقريبًا مع دورة حياة علم البيانات المؤسسية لأنظمة AI ML.”
هذه المحاذاة هي فرصة هائلة. “بلا شك ، من حيث مجموعات البيانات التي يمكننا العمل معها ، يتمتع المدافعون بفرصة فريدة للاستفادة من قوة مشاركة بيانات الاستخبارات و AI”.
تقدم رسالتها النهائية تشجيعًا وتحذيرًا لأقرانها في عالم الأمن السيبراني: “سيكون علم البيانات ومنظمة العفو الدولية جزءًا من حياة كل محترف في الأمن السيبراني للمضي قدمًا ، واحتضانها”.
ستشارك راشيل جيمس رؤىها في هذا العام AI و Big Data Expo Europe في أمستردام في 24-25 سبتمبر 2025. تأكد من مراجعة يومها في العرض التقديمي حول “من مبدأ إلى التدريب-تضمين أخلاقيات الذكاء الاصطناعي على نطاق واسع”.
انظر أيضا: تكشف Google Cloud عن حليف AI لفرق الأمان
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الكبيرة من قادة الصناعة؟ تحقق من AI و Big Data Expo الذي يقام في أمستردام ، كاليفورنيا ، ولندن. تم تحديد الحدث الشامل مع الأحداث الرائدة الأخرى بما في ذلك مؤتمر الأتمتة الذكي ، و blockx ، وأسبوع التحول الرقمي ، ومعرض Cyber Security & Cloud.
استكشاف أحداث وندوات الويب القادمة الأخرى التي تعمل بها TechForge هنا.