أعلنت ولاية كاليفورنيا عن فتح تحقيق رسمي في شركة X (تويتر سابقًا) وشركة xAI التابعة لإيلون ماسك، وذلك على خلفية انتشار واسع النطاق لصور تم إنشاؤها بواسطة الذكاء الاصطناعي تصور أفرادًا، بما في ذلك قاصرون، في مواقف جنسية صريحة وغير توافقية. هذا التحقيق يركز على كيفية تمكن المستخدمين من استغلال برنامج الدردشة Grok، الذي طورته xAI، لإنشاء هذه الصور المثيرة للجدل، مما يثير تساؤلات حول المسؤولية القانونية للشركتين في هذا الشأن.
جاء الإعلان عن التحقيق من قبل المدعي العام لولاية كاليفورنيا، روب بونتا، يوم الأربعاء، بعد تقارير تفيد بأن Grok كان يُستخدم لإنشاء صور إباحية غير قانونية بمعدل صورة واحدة كل دقيقة تقريبًا خلال فترة العطلات. وقد أثارت هذه التقارير غضبًا واسع النطاق ودعوات إلى محاسبة المسؤولين، مع التركيز بشكل خاص على حماية الأطفال من الاستغلال الجنسي عبر الإنترنت.
تحقيق كاليفورنيا في صور الذكاء الاصطناعي المثيرة للجدل
يهدف التحقيق إلى تحديد ما إذا كانت شركة X و xAI قد انتهكتا أي قوانين من خلال السماح بإنشاء ونشر هذه الصور. يركز التحقيق بشكل خاص على ما إذا كانت الشركات قد اتخذت خطوات كافية لمنع إساءة استخدام تقنية الذكاء الاصطناعي الخاصة بها، وما إذا كانت قد تصرفت بشكل متهور أو إهمال أدى إلى انتشار هذه المواد الضارة.
الجدل حول Grok وتوليد الصور
تطبيق Grok، وهو نموذج لغوي كبير، يسمح للمستخدمين بإنشاء صور بناءً على طلباتهم النصية. وقد اكتشف المستخدمون طرقًا لاستغلال هذا النظام لإنشاء صور لأشخاص حقيقيين في مواقف عارية أو جنسية صريحة، وغالبًا ما يتم ذلك دون موافقة هؤلاء الأشخاص.
أظهرت تحليلات أجرتها شركة Copyleaks، المتخصصة في كشف المحتوى الناتج عن الذكاء الاصطناعي، أن Grok كان ينتج صورة ذات طابع جنسي كل دقيقة تقريبًا خلال فترة الذروة. وقد تضمنت بعض هذه الصور قاصرين، مما أدى إلى تفاقم المخاوف الأخلاقية والقانونية.
رد فعل إيلون ماسك والشركة
في البداية، قلل إيلون ماسك من شأن القضية، مشيرًا إلى أنه “ليس على علم بأي صور عارية لقاصرين تم إنشاؤها بواسطة Grok”. لكنه أضاف لاحقًا أن المشكلة تكمن في سوء استخدام المستخدمين للنظام، وليس في النظام نفسه.
أصدرت شركة X بيانًا أكدت فيه أن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيواجه نفس العواقب التي يتعرض لها أي شخص يقوم بتحميل محتوى غير قانوني إلى المنصة. ومع ذلك، لم تتحمل الشركة أي مسؤولية مباشرة عن تمكين هذا السلوك المسيء.
هذا الموقف أثار انتقادات واسعة النطاق، حيث يرى الكثيرون أن الشركة تتحمل مسؤولية أكبر في مراقبة ومنع إساءة استخدام تقنيتها. كما أن إعادة نشر ماسك الساخرة لبعض الصور التي تم إنشاؤها كجزء من هذا الاتجاه أثارت المزيد من الجدل.
تأتي هذه الأحداث في وقت يزداد فيه القلق بشأن المخاطر المحتملة لتقنية الذكاء الاصطناعي، بما في ذلك إمكانية استخدامها لإنشاء محتوى ضار أو غير قانوني. تعد قضية الصور الإباحية التي تم إنشاؤها بواسطة Grok بمثابة تذكير صارخ بأهمية تطوير وتنفيذ ضوابط أخلاقية وقانونية فعالة لهذه التقنية.
الذكاء الاصطناعي والتحقق من المحتوى هما مجالان يتطوران بسرعة، مما يجعل من الصعب على المنصات مواكبة أحدث التطورات. الصور المولدة بالذكاء الاصطناعي أصبحت أكثر واقعية، مما يزيد من صعوبة التمييز بينها وبين الصور الحقيقية. المحتوى غير اللائق يمثل تحديًا كبيرًا لشركات التكنولوجيا، التي تسعى جاهدة لحماية مستخدميها من المواد الضارة.
تعتبر كاليفورنيا أول ولاية في الولايات المتحدة تفتح تحقيقًا رسميًا في هذا الأمر، ولكنها ليست الوحيدة التي تثير القلق. وقد بدأت السلطات في فرنسا وأيرلندا والمملكة المتحدة والهند أيضًا في النظر في هذه القضية، وقد تواجه X و xAI اتهامات مماثلة في هذه البلدان.
تجدر الإشارة إلى أن قانون “Take It Down Act” الذي تم إقراره في العام الماضي يتطلب من المنصات مثل X إنشاء أنظمة للإبلاغ عن المحتوى غير اللائق وإزالته، ولكن هذا القانون لن يدخل حيز التنفيذ الكامل حتى مايو 2026.
من المتوقع أن يستمر التحقيق في كاليفورنيا لعدة أشهر، وقد يؤدي إلى فرض غرامات كبيرة على X و xAI، أو حتى إلى توجيه تهم جنائية إلى المسؤولين. سيكون من المهم مراقبة تطورات هذا التحقيق، وكذلك رد فعل السلطات في البلدان الأخرى، لمعرفة كيف سيتم التعامل مع هذه القضية في المستقبل.