أعلنت جوجل خلال فعاليات مؤتمرها السنوي للمطورين توسيع تقنية العلامات المائية لتحديد محتوى الذكاء الاصطناعي واكتشافه.
ويحصل كل مقطع فيديو مولد من خلال نموذج الشركة الجديد المسمى Veo في تطبيق VideoFX على علامة مائية رقمية بفضل نظام SynthID.
وعلاوة على ذلك، يستطيع نظام SynthID وضع علامة مائية على النص المولد بنموذج الذكاء الاصطناعي Gemini.
وتحدثت الشركة عن نظام العلامة المائية الجديد المحدث SynthID، وأوضحت أنها قادرة الآن على وضع علامة على الفيديو المولد رقميًا بالإضافة إلى النص المولد بالذكاء الاصطناعي.
وتحظى العلامات المائية للمحتوى المولد بالذكاء الاصطناعي بأهمية متزايدة مع انتشار التكنولوجيا، وخاصة عند استخدام الذكاء الاصطناعي لأغراض ضارة.
واستخدم الذكاء الاصطناعي لنشر معلومات سياسية مضللة، والادعاء بأن شخصًا ما قال شيئًا لم يقله، وإنشاء محتوى جنسي مزيف.
وكانت جوجل قد أعلنت SynthID في شهر أغسطس الماضي، ويضيف النظام علامات مائية غير محسوسة إلى المحتوى المولد بالذكاء الاصطناعي حتى تتمكن أدوات اكتشاف الذكاء الاصطناعي من تحديد أن المحتوى مولد بالذكاء الاصطناعي.
وبالنظر إلى أن Veo يستطيع توليد مقاطع طويلة وبدقة مرتفعة مقارنةً بما كان ممكنًا في السابق، فإن تتبع مصدر هذا المحتوى يحظى بأهمية.
ويختلف هذا النهج عن معايير بروتوكول العلامات المائية الأخرى، مثل C2PA، الذي يضيف البيانات الوصفية المشفرة إلى المحتوى الذي يولده الذكاء الاصطناعي.
وسمحت جوجل لنظام SynthID بإدخال علامات مائية غير مسموعة في الموسيقى المولدة بالذكاء الاصطناعي التي ولدتها من خلال نموذج Lyria من DeepMind.
ويعد SynthID مجرد طريقة واحدة من عدة ضمانات للذكاء الاصطناعي يجري تطويرها حاليًا لمكافحة إساءة استخدام التكنولوجيا، وهي ضمانات توجه إدارة بايدن الوكالات الفيدرالية لوضع إرشادات بخصوصها.
ومع تقدم نماذج الذكاء الاصطناعي التوليدي، لجأت الشركات إلى وضع العلامات المائية وسط مخاوف من أن الذكاء الاصطناعي قد يغذي موجة جديدة من المعلومات المضللة.
ومن شأن أنظمة العلامات المائية أن تمنح المنصات إطار عمل لاكتشاف المحتوى المولد بالذكاء الاصطناعي الذي قد يكون من المستحيل تمييزه.