أصبحت الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي مهيمنة بشكل متزايد في نتائج عمليات البحث على Google في الأشهر الأخيرة، مما أدى إلى تهميش النتائج المشروعة وجعل من الصعب على المستخدمين العثور على ما يبحثون عنه بالفعل. وردًا على ذلك، أعلنت Google يوم الثلاثاء أنها ستبدأ في وضع علامات على نتائج البحث عن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والمحررة بواسطة الذكاء الاصطناعي في الأشهر المقبلة.
وستقوم الشركة بوضع علامة على مثل هذا المحتوى من خلال نافذة “حول هذه الصورة” وسيتم تطبيقها على البحث وGoogle Lens وميزات Circle to Search في نظام التشغيل Android. كما تطبق Google هذه التقنية على خدماتها الإعلانية وتفكر في إضافة علامة مماثلة إلى مقاطع فيديو YouTube، ولكن “ستكون هناك تحديثات أكثر في هذا الشأن في وقت لاحق من العام”، وفقًا لمنشور الإعلان.
ستعتمد جوجل على بيانات التعريف الخاصة بتحالف منشأ المحتوى وأصالته (C2PA) لتحديد الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي. وهي مجموعة صناعية انضمت إليها جوجل كعضو في اللجنة التوجيهية في وقت سابق من هذا العام. سيتم استخدام “بيانات التعريف الخاصة بتحالف منشأ المحتوى وأصالته” لتتبع مصدر الصورة، وتحديد متى وأين تم إنشاء الصورة، بالإضافة إلى المعدات والبرامج المستخدمة في إنشائها.
حتى الآن، انضمت عدد من الشركات الكبرى في الصناعة إلى C2PA، بما في ذلك Amazon وMicrosoft وOpenAI وAdobe. ومع ذلك، لم يحظ المعيار نفسه باهتمام كبير من مصنعي الأجهزة ولا يمكن العثور عليه حاليًا إلا على عدد قليل من طرز كاميرات Sony وLeica. كما رفض عدد قليل من مطوري أدوات جيل الذكاء الاصطناعي البارزين تبني المعيار، مثل Black Forrest Labs، التي تصنع نموذج Flux الذي يستخدمه Grok لتوليد الصور.
لقد ارتفع عدد عمليات الاحتيال عبر الإنترنت باستخدام مقاطع فيديو مزيفة تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل كبير في العامين الماضيين. على سبيل المثال، في فبراير، تم خداع ممول مقيم في هونج كونج لتحويل 25 مليون دولار إلى محتالين تظاهروا بأنهم المدير المالي للشركة أثناء مكالمة فيديو. في مايو، وجدت دراسة أجراها مزود التحقق Sumsub أن عمليات الاحتيال باستخدام مقاطع فيديو مزيفة زادت بنسبة 245٪ على مستوى العالم بين عامي 2023 و 2024، مع زيادة بنسبة 303٪ في الولايات المتحدة على وجه التحديد.
قال ديفيد فيرمان، كبير مسؤولي المعلومات ورئيس مسؤولي الأمن في منطقة آسيا والمحيط الهادئ في شركة Netskope: “لقد أدى الوصول العام إلى هذه الخدمات إلى خفض حاجز الدخول أمام مجرمي الإنترنت”. سي إن بي سي في شهر مايو. “لم يعد من الضروري أن يمتلكوا مجموعات خاصة من المهارات التكنولوجية”.