أصبحت مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي وتظهر مشاهد عنف وخنق ضد النساء والفتيات تظهر على منصات التواصل الاجتماعي مثل TikTok وX، مما أثار مخاوف بشأن فشل هذه المنصات في التقاط مثل هذه المحتويات العنيفة. هذه المقاطع ليست رسوم متحركة، بل تبدو واقعية بشكل مخيف، وتثير تساؤلات حول استخدام أدوات الذكاء الاصطناعي في إنشاء محتوى عنيف.
وفقًا للتقارير، تحتوي العديد من هذه المقاطع على علامة مائية من Sora 2، وهو مولد الفيديو الخاص بـ OpenAI، الذي تم إصداره للجمهور مؤخرًا. يشير المحققون إلى أن بعض التحميلات الأحدث لا تحتوي على هذه العلامة المائية، مما يشير إلى احتمال استخدام أدوات ذكاء اصطناعي أخرى أو إزالة العلامة المائية.
مخاطر استخدام الذكاء الاصطناعي في نشر العنف
تثير هذه المقاطع مخاوف كبيرة بشأن استخدام أدوات الذكاء الاصطناعي في نشر العنف ومحتوى غير أخلاقي. حيث يمكن لأي شخص الآن إنشاء مقاطع فيديو واقعية للغاية عن العنف، خاصة ضد النساء والأطفال، مما يمثل خطرًا كبيرًا على المجتمع.
ومع ذلك، فإن بعض منصات التواصل الاجتماعي قد بدأت في اتخاذ إجراءات ضد هذه الحسابات. على سبيل المثال، قام TikTok بإزالة حسابًا كان ينشر مثل هذه المقاطع بعد أن بدأت وسائل الإعلام في طرح الأسئلة.
التحديات القانونية والأخلاقية
تثير هذه الحوادث تساؤلات قانونية وأخلاقية حول استخدام الذكاء الاصطناعي في إنشاء ونشر محتوى عنيف. حيث يُعتبر هذا النوع من المحتوى غير أخلاقي ويمكن أن يسبب ضررًا نفسيًا حقيقيًا، وفقًا للخبراء.
وفي هذا السياق، أعلنت حكومة المملكة المتحدة عن خطط لجعل تصوير الخنق الإباحي غير قانوني، مما يشير إلى أن الحكومات بدأت في الاهتمام بهذه القضايا.
الضغط على الشركات لتطبيق ضوابط على الذكاء الاصطناعي
يتزايد الضغط على الشركات التي تصنع أدوات الذكاء الاصطناعي، مثل OpenAI، وكذلك على منصات التواصل الاجتماعي مثل TikTok وX، لوضع ضوابط وحواجز حماية حقيقية على أدواتهم لمنع استخدامها في إنتاج محتوى عنيف.
وفي الختام، يبدو أن هذه الحوادث تمثل بداية لموجة جديدة من إساءة استخدام الذكاء الاصطناعي عبر الإنترنت. وستكون الخطوات القادمة التي تتخذها الحكومات والشركات في هذا الشأن حاسمة في تحديد كيفية التعامل مع هذه التحديات.