يجب على منتهكي ChatGPT الحذر، حيث طورت OpenAI أداة قادرة على اكتشاف مخرجات الكتابة الخاصة بـ GPT-4 بدقة تصل إلى 99.99%. ومع ذلك، فقد قضت الشركة أكثر من عام في التردد بشأن ما إذا كانت ستصدرها للعامة أم لا.
وبحسب ما ورد، فإن الشركة تتبنى “نهجًا متعمدًا” بسبب “التعقيدات التي ينطوي عليها الأمر وتأثيره المحتمل على النظام البيئي الأوسع نطاقًا خارج نطاق OpenAI”، وفقًا لموقع TechCrunch. وقال متحدث باسم OpenAI: “إن طريقة وضع العلامات المائية على النصوص التي نطورها واعدة من الناحية الفنية، لكنها تنطوي على مخاطر مهمة نزنها بينما نبحث عن بدائل، بما في ذلك قابلية التحايل عليها من قبل الجهات السيئة والإمكانية للتأثير بشكل غير متناسب على مجموعات مثل المتحدثين بغير اللغة الإنجليزية”.
يعمل نظام العلامات المائية النصية من خلال دمج نمط معين في الناتج المكتوب للنموذج والذي يمكن اكتشافه بواسطة أداة OpenAI، ولكن غير مرئي للمستخدم النهائي. وفي حين يمكن لهذه الأداة اكتشاف الكتابة الناتجة عن محرك GPT-4 الخاص بها بشكل موثوق، إلا أنها لا تستطيع اكتشاف مخرجات نماذج أخرى مثل Gemini أو Claude. وعلاوة على ذلك، يمكن إزالة العلامة المائية نفسها من خلال تشغيل الناتج النصي من خلال Google Translate، وتحويله إلى لغة أخرى ثم العودة.
هذه ليست المحاولة الأولى لشركة OpenAI لبناء أداة لكشف النصوص. في العام الماضي، ألغت بهدوء أداة كشف نصوص مماثلة كانت قيد التطوير بسبب معدل الكشف الضئيل للأداة وميلها إلى الإيجابيات الخاطئة. تم إصدار هذا الكاشف في يناير 2023، وكان يحتاج إلى مستخدم لإدخال نص عينة يدويًا بطول 1000 حرف على الأقل قبل أن يتمكن من اتخاذ قرار. تمكن من تصنيف المحتوى الناتج عن الذكاء الاصطناعي بشكل صحيح بدقة 26٪ فقط ووصف المحتوى الناتج عن الإنسان بأنه مشتق من الذكاء الاصطناعي بنسبة 9٪ من الوقت. كما أدى ذلك إلى رسوب أحد أساتذة جامعة تكساس إيه آند إم بشكل غير صحيح في فصل دراسي كامل لاستخدامه المزعوم لـ ChatGPT في مهامهم النهائية.
كما ورد أن شركة OpenAI مترددة في إطلاق الأداة خوفًا من رد فعل عنيف من المستخدمين. ووفقًا لصحيفة وول ستريت جورنال، يعتقد 69% من مستخدمي ChatGPT أن مثل هذه الأداة غير موثوقة ومن المرجح أن تؤدي إلى اتهامات كاذبة بالغش. وأفاد 30% آخرون أنهم سيتوقفون عن استخدام روبوت الدردشة طواعية لصالح نموذج مختلف إذا طرحت OpenAI هذه الميزة بالفعل. كما تخشى الشركة أن يتمكن المطورون من عكس هندسة العلامة المائية وبناء أدوات لإلغائها.
وبينما تناقش شركة OpenAI مزايا إطلاق نظامها الخاص بإضافة العلامات المائية، تسارع شركات ناشئة أخرى في مجال الذكاء الاصطناعي إلى إطلاق أجهزة كشف النصوص الخاصة بها، بما في ذلك GPTZero وZeroGPT وScribbr وWriter AI Content Detector. ومع ذلك، ونظراً لافتقارها العام إلى الدقة، تظل العين البشرية أفضل وسيلة لدينا لاكتشاف المحتوى الذي ينتجه الذكاء الاصطناعي، وهو أمر غير مطمئن.