في الآونة الأخيرة، استخدم مجرمو الإنترنت مقاطع فيديو “عميقة التزييف” للمديرين التنفيذيين لشركة متعددة الجنسيات لإقناع موظفي الشركة المقيمين في هونغ كونغ بتحويل 25.6 مليون دولار أمريكي. واستنادًا إلى مكالمة جماعية عبر الفيديو تضم العديد من التزييف العميق، اعتقد الموظفون أن المدير المالي للشركة في المملكة المتحدة قد طلب تحويل الأموال. وبحسب ما ورد ألقت الشرطة القبض على ستة أشخاص على صلة بعملية الاحتيال. هذا الاستخدام لتكنولوجيا الذكاء الاصطناعي أمر خطير ومتلاعب. وبدون وضع المبادئ التوجيهية والأطر المناسبة، فإن المزيد من المؤسسات تخاطر بالوقوع ضحية لعمليات احتيال الذكاء الاصطناعي مثل التزييف العميق.
Deepfakes 101 وتهديدها المتزايد
Deepfakes هي أشكال من الوسائط المعدلة رقميًا – بما في ذلك الصور ومقاطع الفيديو والمقاطع الصوتية – والتي يبدو أنها تصور شخصًا حقيقيًا. يتم إنشاؤها من خلال تدريب نظام الذكاء الاصطناعي على مقاطع حقيقية تظهر شخصًا، ثم استخدام نظام الذكاء الاصطناعي هذا لإنشاء وسائط جديدة واقعية (ولكنها غير أصلية). أصبح استخدام Deepfake أكثر شيوعًا. وكانت قضية هونغ كونغ هي الأحدث في سلسلة من حوادث التزييف العميق البارزة في الأسابيع الأخيرة. تم تداول صور مزيفة وصريحة لتايلور سويفت على وسائل التواصل الاجتماعي، واستخدم الحزب السياسي لمرشح انتخابي مسجون في باكستان مقطع فيديو مزيفًا للغاية له لإلقاء خطاب، كما دعا “استنساخ صوتي” مزيف للرئيس بايدن الناخبين الأساسيين ليخبرهم بعدم القيام بذلك. تصويت.
كما أن الحالات الأقل شهرة لاستخدام التزييف العميق من قبل مجرمي الإنترنت آخذة في الارتفاع من حيث الحجم والتعقيد. وفي القطاع المصرفي، يحاول مجرمو الإنترنت الآن التغلب على المصادقة الصوتية عن طريق استخدام النسخ الصوتية للأشخاص لانتحال هوية المستخدمين والوصول إلى أموالهم. استجابت البنوك من خلال تحسين قدراتها على تحديد استخدام التزييف العميق وزيادة متطلبات المصادقة.
استهدف مجرمو الإنترنت أيضًا الأفراد بهجمات “التصيد الاحتيالي” التي تستخدم التزييف العميق. يتمثل أحد الأساليب الشائعة في خداع أفراد عائلة الشخص وأصدقائه باستخدام استنساخ صوتي لانتحال شخصية شخص ما في مكالمة هاتفية وطلب تحويل الأموال إلى حساب طرف ثالث. في العام الماضي، وجدت دراسة استقصائية أجرتها شركة McAfee أن 70% من الأشخاص الذين شملهم الاستطلاع لم يكونوا واثقين من قدرتهم على التمييز بين الأشخاص واستنساخ أصواتهم وأن ما يقرب من نصف الأشخاص الذين شملهم الاستطلاع سوف يستجيبون لطلبات الحصول على الأموال إذا طالب أحد أفراد العائلة أو الصديق الذي أجرى المكالمة أن تكون قد تعرضت للسرقة أو تعرضت لحادث سيارة.
قام مجرمو الإنترنت أيضًا بالاتصال بالأشخاص الذين يتظاهرون بأنهم سلطات الضرائب والبنوك ومقدمي الرعاية الصحية وشركات التأمين في محاولة للحصول على تفاصيل مالية وشخصية.
وفي فبراير/شباط، قضت لجنة الاتصالات الفيدرالية بأن المكالمات الهاتفية باستخدام الأصوات البشرية الناتجة عن الذكاء الاصطناعي غير قانونية ما لم يتم إجراؤها بموافقة صريحة مسبقة من الطرف المتصل. كما وضعت لجنة التجارة الفيدرالية اللمسات الأخيرة على قاعدة تحظر انتحال هوية المنظمات الحكومية والشركات باستخدام الذكاء الاصطناعي واقترحت قاعدة مماثلة تحظر انتحال هوية الأفراد باستخدام الذكاء الاصطناعي. وهذا يضاف إلى قائمة متزايدة من التدابير القانونية والتنظيمية التي يتم اتخاذها في جميع أنحاء العالم لمكافحة التزييف العميق.
ابق محميًا ضد التزييف العميق
لحماية الموظفين وسمعة العلامة التجارية من التزييف العميق، يجب على القادة الالتزام بالخطوات التالية:
- تثقيف الموظفين بشكل مستمر، سواء فيما يتعلق بعمليات الاحتيال المدعومة بالذكاء الاصطناعي، أو بشكل عام، بشأن قدرات الذكاء الاصطناعي الجديدة ومخاطرها.
- ترقية إرشادات التصيد الاحتيالي لتشمل تهديدات التزييف العميق. لقد قامت العديد من الشركات بالفعل بتثقيف موظفيها حول رسائل البريد الإلكتروني التصيدية وحثتهم على توخي الحذر عند تلقي طلبات مشبوهة عبر رسائل البريد الإلكتروني غير المرغوب فيها. يجب أن تتضمن إرشادات التصيد الاحتيالي هذه عمليات الاحتيال العميق التي تعتمد على الذكاء الاصطناعي ولاحظ أنها قد لا تستخدم الرسائل النصية والبريد الإلكتروني فحسب، بل أيضًا مقاطع الفيديو والصور والصوت.
- زيادة أو معايرة المصادقة بشكل مناسب من الموظفين وشركاء الأعمال والعملاء. على سبيل المثال، استخدام أكثر من طريقة للتوثيق حسب حساسية ومخاطر القرار أو المعاملة.
- فكر في تأثيرات التزييف العميق على أصول الشركةمثل الشعارات والشخصيات الإعلانية والحملات الإعلانية. يمكن بسهولة تكرار أصول الشركة هذه باستخدام التزييف العميق ونشرها بسرعة عبر وسائل التواصل الاجتماعي وقنوات الإنترنت الأخرى. فكر في كيفية قيام شركتك بتخفيف هذه المخاطر وتثقيف أصحاب المصلحة.
- توقع المزيد والأفضل من التزييف العميق، نظرًا لوتيرة التحسن في الذكاء الاصطناعي التوليدي، وعدد العمليات الانتخابية الكبرى الجارية في عام 2024، والسهولة التي يمكن بها انتشار التزييف العميق بين الناس وعبر الحدود.
على الرغم من أن التزييف العميق يمثل مصدر قلق للأمن السيبراني، يجب على الشركات أيضًا أن تنظر إليها باعتبارها ظواهر معقدة وناشئة ذات تداعيات أوسع نطاقًا. يمكن للنهج الاستباقي والمدروس لمعالجة التزييف العميق أن يساعد في تثقيف أصحاب المصلحة والتأكد من أن تدابير مكافحتها مسؤولة ومتناسبة ومناسبة.
(تصوير ماركوس سباسك)
أنظر أيضا: المملكة المتحدة والولايات المتحدة توقعان اتفاقية لتطوير اختبارات سلامة الذكاء الاصطناعي
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الضخمة من قادة الصناعة؟ اطلع على معرض الذكاء الاصطناعي والبيانات الضخمة الذي يقام في أمستردام وكاليفورنيا ولندن. ويقام هذا الحدث الشامل في مكان مشترك مع الأحداث الرائدة الأخرى بما في ذلك BlockX، وأسبوع التحول الرقمي، ومعرض الأمن السيبراني والسحابي.
استكشف الأحداث والندوات عبر الإنترنت القادمة الأخرى المتعلقة بتكنولوجيا المؤسسات والمدعومة من TechForge هنا.