صور الذكاء الاصطناعي المزيفة تغمر الإنترنت. إليك كيفية التعرف عليهم

واحدة من الظواهر الناتجة عن طفرة الذكاء الاصطناعى في السنوات الأخيرة هي Deepfakes. يتكون المصطلح من الكلمات التعليمية العميقة والمزيفة.

يشير التعلم العميق إلى أساليب التعلم الآلي ، في حين أن مزيفًا هو مزيج أو تقليد أو خدعة. وبالتالي فإن DeepFake هو تزوير تم إنشاؤه بمساعدة عمليات الذكاء الاصطناعي.

يمكن أن تكون هذه الصور المزيفة التي تم إنشاؤها بواسطة الكمبيوتر للأشخاص المعروفين أو الصور أو مقاطع الفيديو التي تم استبدال الوجوه مع الآخرين ، أو حتى التسجيلات الصوتية أو الرسائل التي يقول فيها صوت معروف عن عبارات لم ينطق بها أبدًا.

مثل هذه المزايا من الصور ومقاطع الفيديو وتسجيلات الصوت كانت موجودة دائمًا. ومع ذلك ، بفضل تقنية الذكاء الاصطناعى ، أصبحت هذه المزيفات قريبة من الكمال ويصعب التمييز بينها عن التسجيلات الأصيلة.

والأكثر من ذلك ، أن البرنامج المطلوب متاح للجميع وغالبًا ما يتم تقديمه كخدمة ويب مما يعني أن أي شخص يمكنه إنشاء DeepFakes في الوقت الحاضر.

إمكانات عالية لسوء الاستخدام

غالبًا ما يتم الإعلان عن تطبيقات الذكاء الاصطناعي لإنشاء DeepFakes كبرامج يمكن استخدامها لتشغيل الحيل على أشخاص آخرين.

ولكن في الواقع ، غالبًا ما يتم إساءة استخدام مثل هذه البرامج من قبل المجرمين. أنها تستخدم إمكانيات الذكاء الاصطناعي لهذه الحيل. على سبيل المثال:

• يستخدمون الذكاء الاصطناعى لإتقان خدعة الحفيد. للقيام بذلك ، يطلقون على ضحاياهم باستخدام أصوات الأقارب التي تم إنشاؤها من الذكاء الاصطناعى ، ووصف حالة الطوارئ مثل الحادث وطلب الدعم المالي الفوري.
• في مقطع فيديو ، وضعوا عبارة في فم سياسي لم يقلوا أبدًا ، في محاولة للتأثير على الرأي العام.
• لديك مشاهير يعلن عن منتج دون معرفته أو موافقتهم. العملاء الذين يطلبون بعد ذلك هذا المنتج إما تمزق بسعر مضخم أو لا يتلقون البضائع أبدًا.

التعرف على صور DeepFake

عندما بدأت عمليات الاحتيال في Deepfake ، لم يتمكن المستهلكون من حماية أنفسهم إلا من تعرضهم للمجرمين من خلال البحث أو الاستماع بعناية. وذلك لأن الذكاء الاصطناعي غالبًا ما يعمل بشكل غير دقيق والعديد من التفاصيل تم تحريفه أو غير واقعية.

ومع ذلك ، سرعان ما ظهرت تطبيقات الذكاء الاصطناعي الأخرى على الويب التي فحصت الصور ومقاطع الفيديو على وجه التحديد لهذه الأخطاء وأيضًا تضمنت أنماط الألوان والقوام في تحليلاتها. تتوفر الآن مجموعة كاملة من هذه البرامج. كثير منهم مجاني.

يقوم المستخدم بتحميل صورة أو مقطع فيديو إلى موقع ويب ويقوم AI بتحليلها ويخبر المستخدم ما إذا كان DeepFake أم لا.

ربما تأتي أداة اكتشاف DeepFake الأكثر شمولاً على الويب من الجامعة في بوفالو في ولاية نيويورك الأمريكية. يجمع مشروع Deepfake-O-Meter ، الذي تم تطويره هناك من قبل فريق في مختبر الطب الشرعي الإعلامي ، بين 16 برنامج التعرف على الذكاء الاصطناعي من المشهد المفتوح المصدر ويغذيها بالصور ومقاطع الفيديو وملفات الصوت التي تم تحميلها من قبل المستخدمين.

بعد بضع ثوان ، تقدم الأدوات نتائجها وتذكر احتمال أن يكون الوسيلة التي تم تحميلها هي عبارة عن DeepFake التي تم إنشاؤها من الذكاء الاصطناعى.

للوصول إلى Deepfake-O-Meter ، كل ما عليك فعله هو التسجيل مجانًا مع عنوان البريد الإلكتروني الخاص بك. هذا يعطي المستخدم 30 ائتمانات لاستخدام الخدمة ؛ استفسار واحد يكلف ائتمان واحد.

لاختبار صغير ، قمنا أولاً بتحميل ما هو أكثر صورة Deepfake شهرة في العالم ، صورة البابا فرانسيس الراحل في سترة أبيض من Midjourney.

ومع ذلك ، أعطت خدمتان فقط من ذخيرة Deepfake-O-Meter احتمال أن تكون الصورة أكثر من 50 في المائة.

في الاختبار الثاني ، كان لدينا مولد صورة Canva.com يولد صورة امرأة. هذه المرة ، اعترفت سبع من أدوات الذكاء الستة عشر منظمة العفو الدولية إلى DeepFake.

يعمل الاعتراف بالمنظمة الفرنسية للشركة الفرنسية SightEngine بشكل أسرع بكثير من أدوات Deepfake-O-Meter. في الاختبار ، تعرفت على الصورة مباشرة بعد تحميلها.

بالنسبة لصورة امرأة تم إنشاؤها باستخدام Canva.com ، فقد أعطى احتمال 99 في المائة أنها كانت صورة تم إنشاؤها من الذكاء الاصطناعى. ومع ذلك ، فقد أنتج هذا البرنامج أيضًا نتائج غير حاسمة عندما وصل إلى صورة البابا – مما أدى إلى تحديد مُصباح ، كان احتمال وجود Deepfake 53 في المائة.

التعرف على صور DeepFake بهذه التفاصيل

تعد كاشفات DeepFake مثل SightEngine أدوات مهمة لتحديد الصور المزيفة. ومع ذلك ، في كثير من الحالات ، من الممكن أيضًا التعرف على العين العارية أن الصورة لا تعكس الواقع – غالبًا ما يكون الشيطان في التفاصيل.

واحدة من أكبر المشكلات لمنظمة العفو الدولية هي تمثيل الأصابع البشرية. تظهر البرامج ملايين الصور أثناء التدريب ، ويظهر الكثير منها الأيدي والأصابع.

ومع ذلك ، غالبا ما تكون الأيدي غير مكتملة. في صورة مصافحة ، على سبيل المثال ، هناك ثلاثة أصابع فقط مرئية في معظم الحالات. في الصور الأخرى ، تكون بعض الأصابع في جيب أو تتم تغطيتها بالكامل أو جزئيًا بواسطة كائنات.

نظرًا لأن الذكاء الاصطناعي لا يعرف عدد الأصابع التي لدى الشخص ، فإنها تستنتج من هذه الصور التي يمكن أن يختلفها الرقم والطول. وفقًا لذلك ، فإنه يوفر بعض الأيدي أكثر أو أقل من الأصابع أو يمنحهم أصابعًا بأطوال وأحجام مختلفة.

• برامج الذكاء الاصطناعى أيضا تكافح مع الأسلحة والساقين. غالبًا ما تكون الأطراف في المكان المناسب أو لا يمكن تعيينها لشخص ما.
• الشعر غالبا ما يبدو اصطناعي. تقع الخيوط في الزاوية الخاطئة أو لا يمكن تعيينها لشخص ما.
• غالبًا ما تواجه البرامج صعوبات في تفاصيل الملابس. تحتوي القمصان والمعاطف على أزرار مختلفة ، ولا تشكل قلادات حلقة مغلقة أو تشوه إطارات المشهد.
• تظهر الخطوط على أنها مركب ، شخصيات غير مقروءة.
• غالبًا ما تكون هناك ظلال غير صحيحة في الخلفية ، أو أن هناك تناقضات في النسب.

التعرف على مقاطع فيديو DeepFake مع برنامج AI

قام إنشاء مقاطع فيديو DeepFake بقفزة كبيرة إلى الأمام العام الماضي مع تقديم مولد الفيديو Sora من Open AI. تبدو الأفلام حقيقية لدرجة أنها بالكاد يمكن تمييزها عن مقاطع الفيديو الحقيقية. يمكنك العثور على كميات كبيرة من الأفلام ذات المظهر الواقعي بشكل مثير للدهشة على YouTube المصنوعة من هذه التكنولوجيا الجديدة.

أجهزة الكشف عن الفيديو المجانية من الذكاء الاصطناعي هي أدوات عميقة. AI وكاشف الذكاء الاصطناعى من Hive. كلاهما مصمم كتطبيقات ويب. Deepware.ai مجاني تمامًا ، في حين أن الإصدار الأساسي من Hive يقبل فقط مقاطع الفيديو حتى 20 ثانية.

قمنا بتحميل بعض مقاطع فيديو Sora على كلا المواقعين لمعرفة كيفية أدائها. كانت النتيجة مع Deepware مخيبة للآمال: لم يتعرف البرنامج على DeepFakes في أي من أمثلةنا.

كانت نتائج كاشف الخلية من ناحية أخرى مختلفة تمامًا: أشار إلى وجود احتمال DeepFake بنسبة 99 في المائة لجميع أفلام Sora.

التعرف على النصوص التي تم إنشاؤها من الذكاء الاصطناعي

للوهلة الأولى ، لا يمكن تمييز النصوص التي تم إنشاؤها مع chatbots مثل chatgpt أو Google Gemini عن تلك التي كتبها المؤلفون البشريون. القواعد النحوية والتهجئة مثالية ، ونادراً ما توجد أخطاء واقعية في النصوص الخيالية.

ومع ذلك ، فإن الأسلوب يعطيها بعيدا. تميل chatbots إلى صياغة جملها بطول وبنية متسقة. البشر ، من ناحية أخرى ، يهتمون بالاختلاف والتنوع في نصوصهم حتى لا يخلقون إيقاع قراءة رتيب وممل.

بالإضافة إلى ذلك ، لا تقدم نصوص الذكاء الاصطناعي في كثير من الأحيان أمثلة على الحقائق التي تقدمها. كما أنها لا تقدم تفاصيل محددة ولا تشمل الفروق الدقيقة والاعتبارات.

يمكنك الآن العثور على أجهزة الكشف عن الذكاء الاصطناعي على الإنترنت التي تحلل نص الإدخال للخصائص المذكورة أعلاه لنصوص AI.

Scribbr هو كاشف AI مجاني يفهم الفرنسية والإسبانية والهولندية والألمانية ، وكذلك الإنجليزية.

يمكن لـ isgen.ai التعامل مع عشرات اللغات ، ولكنه مجاني فقط في الإصدار الأساسي. مع عرض Freemium ، يمكن أن يكون لديك ما يصل إلى 12000 كلمة شهريًا تم تحليلها في 50 استفسارًا كحد أقصى بعد التسجيل.

التعرف على مقاطع فيديو DeepFake بكل التفاصيل الدقيقة

غالبًا ما تحتوي مقاطع فيديو DeepFake على نفس الأخطاء التي يتم إنشاؤها في الصور التي تم إنشاؤها من الذكاء الاصطناعي: النصوص غير مقروءة ، أو التفاصيل غير منطقية أو مستحيلة في الواقع. على سبيل المثال ، غالبًا ما تكون الظلال غير صحيحة ولا يبدو أن الشعر يحتوي على اتصال ثابت برأس.

لا يتطابق تصميم الخلفية مع بقية الفيلم أيضًا. أخيرًا ، من الملاحظ في كثير من الحالات أن يتم عرض الأشخاص في الفيلم بدقة أعلى من محيطهم.

هناك أيضًا بعض التفاصيل النموذجية التي تحدث فقط في نقل الصور. على سبيل المثال ، غالبًا ما يتحرك الأشخاص الموجودون في مقاطع الفيديو ببطء غير طبيعي ويبدو أنهم في نوع من الغيبوبة.

بالإضافة إلى ذلك ، غالبًا ما لا تظهر وجوههم أي تعبيرات عن الوجه ولا تومض. للتعرف على هذا ، ومع ذلك ، عليك في بعض الأحيان تقليل سرعة تشغيل الفيلم.

مع وجود برامج مثل استنساخ Voice في الوقت الفعلي ، من الممكن الآن إنشاء صوت DeepFake من تسجيل يبلغ طوله بضع ثوانٍ فقط. هذا يمكن أن يقرأ أي نص بصوت شخص آخر.

ومع ذلك ، فإن التكنولوجيا ليست مثالية بعد. في الدراسات المختلفة ، تمكنت مواضيع الاختبار من التمييز بين الصوت الاصطناعي عن الصوت الحقيقي في ثلثي جميع الحالات. ومع ذلك ، فإن الجودة جيدة بالفعل لدرجة أن المجرمين تمكنوا من الاحتيال بنجاح من الأشخاص باستخدام مكالمات الطوارئ باستخدام أصوات مزيفة.

في الوقت الحالي ، فإن المنتجات التي تعد بالكشف عن الأصوات المزيفة هي أساسًا من البلدان الناطقة باللغة الإنجليزية. على سبيل المثال ، قدمت شركة Security McAfee ، كاشف DeepFake ، الذي يكتشف الأصوات التي تم إنشاؤها بشكل مصطنع في مقاطع الفيديو وملفات الصوت. إنه متوفر على جميع أجهزة الكمبيوتر باستخدام معالجات Intel Core Ultra 200V.

قامت شركات مثل Impleble.ai و AI Voice Detector بتطوير تطبيقات للشركات.

يعد كاشف صوت Hiya AI خيارًا آخر مجاني حاليًا. تم تصميمه كملحق Chrome ويحلل التسجيلات الصوتية على مواقع الويب. لقد عملت بشكل مدهش بشكل مدهش في الاختبار.

تحليل الرسائل القصيرة مع bitdefender scamio

تحاول العصابات الإجرامية بشكل متزايد جذب المستخدمين إلى مواقع الويب حيث من المفترض أن يدخلوا بياناتهم الشخصية مع مكالمات الطوارئ والعروض عبر الرسائل القصيرة.

قامت شركة BitDefender المصنعة للأمان بتطوير Scamio ، وهي خدمة تستخدم أدوات الذكاء الاصطناعى لتحليل رسائل البريد الإلكتروني المشبوهة والروابط والرسائل النصية لمحاولات التصيد وغيرها من النوايا الجنائية.