أوضح Openai أن خدمة AI الرائدة ، ChatGPT ليست مخصصة للاستخدام الضار.
أصدرت الشركة تقريرًا يوضح بالتفصيل أنه لاحظ اتجاهات الجهات الفاعلة السيئة التي تستخدم منصتها لأنها تصبح أكثر شعبية. أشار Openai إلى أنه أزال عشرات الحسابات حول الشك في استخدام ChatGPT بطرق غير مصرح بها ، مثل “رمز تصحيح الأخطاء لتوليد محتوى للنشر على منصات التوزيع المختلفة”.
كما أعلنت الشركة مؤخرًا وصولًا إلى 400 مليون أسبوع أسبوعيًا للمستخدم. قامت الشركة بالتفصيل أن USSINT قد زادت بأكثر من 100 مليون في أقل من ثلاثة أشهر مع استخدام المزيد من المؤسسات والمطورين أدواتها. ومع ذلك ، فإن ChatGPT هي أيضًا خدمة مجانية يمكن الوصول إليها على مستوى العالم. نظرًا لأن الجوانب الأخلاقية والأخلاقية في وظائفها كانت موضع تساؤل منذ فترة طويلة ، كان على Openai أن يتصالح مع حقيقة أن هناك كيانات لها دوافع خفية للمنصة.
“تحظر سياسات Openai بشكل صارم استخدام الإخراج من أدواتنا للاحتيال أو الاحتيال. من خلال تحقيقنا في مخططات التوظيف الخادعة ، حددنا وعشرات الحسابات وحظرناها.
في تقريرها ، ناقشت Openai الاضطرار إلى تحدي الإجراءات الشائنة التي تحدث في ChatGPT. سلطت الشركة الضوء على العديد من دراسات الحالة ، حيث كشفت وأخذت إجراءات عن طريق حظر الحسابات التي وجدت أنها تستخدم الأداة للنية الضارة.
في إحدى الحالات ، قام Openai بالتفصيل حسابًا كتب مقالات إخبارية حول الولايات المتحدة ، حيث يتم نشر مصدر الأخبار في أمريكا اللاتينية تحت ستار منشور صيني.
تم العثور على قضية أخرى ، مترجمة في كوريا الشمالية لتوليد السير الذاتية وملفات تعريف الوظائف لمتقدمي الوظائف. وفقًا لـ Openai ، قد يتم استخدام الحساب للتقدم إلى الوظائف في الشركات الغربية.
هناك دراسة أخرى كشفت عن حسابات يعتقد أنها نشأت في كمبوديا التي استخدمت chatgpt للترجمة ولتوليد تعليقات في شبكات “محتالين الرومانسية” ، التي تتسلل إلى العديد من منصات التواصل الاجتماعي ، بما في ذلك X و Facebook و Instagram.
أكدت Openai أنها شاركت نتائجها مع معاصريها في الصناعة ، مثل Meta ، والتي قد تتأثر عن غير قصد بالإجراءات التي تحدث على ChatGPT.