أصدرت جوجل إرشادات جديدة للمطورين الذين ينشئون تطبيقات ذكاء اصطناعي موزعة من خلال متجرها لتطبيقات أندرويد، على أمل تقليل المحتوى غير المناسب والمحظور.
وتقول الشركة إن التطبيقات التي تقدم مزايا الذكاء الاصطناعي يجب أن تمنع إنشاء المحتوى المقيد – الذي يتضمن المحتوى الجنسي والعنف والمزيد – وتحتاج إلى توفير طريقة للمستخدمين للإبلاغ عن المحتوى المسيء الذي يجدونه.
وبالإضافة إلى ذلك، تقول جوجل إن المطورين بحاجة إلى اختبار صارم لأدوات الذكاء الاصطناعي للتحقق من أنها تحترم سلامة المستخدم وخصوصيته.
كما أنها تتخذ إجراءات صارمة تجاه التطبيقات التي تروج فيها المواد التسويقية لحالات استخدام غير لائقة، مثل التطبيقات التي تجرد الأشخاص من ملابسهم أو تنشئ صورًا عارية دون رضاهم.
وفي حال أشارت نسخة الإعلان إلى أن التطبيق قادر على فعل هذه النوعية من الأشياء، فقد يحظر من متجر جوجل بلاي، سواء كان التطبيق قادرًا على فعل ذلك أم لا.
وتأتي هذه الإرشادات بعد ظهور تطبيقات ذكاء اصطناعي عديدة في الأشهر الأخيرة تسوق نفسها عبر وسائل التواصل الاجتماعي.
ووجد تقرير صدر في شهر أبريل أن إنستاجرام كانت تستضيف إعلانات لتطبيقات تدعي أنها تستخدم الذكاء الاصطناعي لتوليد صور عارية مزيفة.
وأبلغت المدارس في جميع أنحاء الولايات المتحدة عن مشكلات مع الطلاب الذين يتبادلون صورًا عارية مزيفة بتقنية الذكاء الاصطناعي لطلاب آخرين بغرض التنمر والتحرش، إلى جانب أنواع أخرى من محتوى الذكاء الاصطناعي غير المناسب.
وسحبت شركتا جوجل وآبل التطبيقات من متاجر التطبيقات، مع أن المشكلة لا تزال منتشرة على نطاق واسع.
وتقول جوجل إن سياساتها تساعد في منع وصول التطبيقات التي تحتوي محتوى مولد بالذكاء الاصطناعي قد يكون غير مناسب أو ضارًا للمستخدمين إلى متجر التطبيقات.
وتقول الشركة إن تطبيقات الذكاء الاصطناعي لا يمكنها السماح بتوليد أي محتوى مقيد، ويجب أيضًا أن تمنح المستخدمين طريقة للإبلاغ عن المحتوى المسيء وغير المناسب، بالإضافة إلى مراقبة تلك التعليقات وتحديد أولوياتها.
وبالإضافة إلى ذلك، يتحمل المطورون مسؤولية حماية تطبيقاتهم من المطالبات التي قد تتلاعب بمزايا الذكاء الاصطناعي من أجل توليد محتوى ضار ومسيء.
وتقول جوجل إن المطورين يمكنهم استخدام ميزة الاختبار المغلق لتبادل الإصدارات المبكرة من تطبيقاتهم مع المستخدمين من أجل الحصول على تعليقات.
وتقترح الشركة أن يوثق المطورون تلك الاختبارات قبل الإطلاق، إذ قد تطلب جوجل مراجعتها مستقبلًا.