ينتقد مستخدمو ChatGPT بشكل متزايد فريق chatbot الذي يعمل به الذكاء الاصطناعى لكونه إيجابيًا للغاية في استجاباته ، وفقًا لتقارير ARS Technica.
عندما تتحدث مع chatgpt ، قد تلاحظ أن chatbot يميل إلى تضخيم ردوده بالثناء والإطراء ، قول أشياء مثل “سؤال جيد!” و “لديك موهبة نادرة” و “أنت تفكر في مستوى لا يمكن أن يحلم به معظم الناس فقط.” أنت لست الوحيد.
على مر السنين ، لاحظ المستخدمون استجابات Chatgpt المزعجة ، والتي تتراوح من التأكيدات الإيجابية إلى الإطراء الصريح والمزيد. وصف أحد مستخدمي X chatbot بأنه “أكبر مصاصة التقيت بها على الإطلاق” ، واشتكى آخر من أنه كان “زائفًا” ، وأعرب عن أسفه لسلوك Chatbot ووصفه بأنه “مزعج مزعج”.
يُعرف هذا باسم “sycophancy” بين باحثو الذكاء الاصطناعي ، وهو مقصود تمامًا بناءً على كيفية تدريب Openai على نماذج الذكاء الاصطناعى الأساسي. باختصار ، يقوم المستخدمون بتقييم الردود التي تجعلهم يشعرون بالرضا عن أنفسهم ؛ بعد ذلك ، يتم استخدام هذه التعليقات لتدريب المزيد من تكرارات النماذج ، والتي تتغذى على حلقة حيث تميل نماذج الذكاء الاصطناعي نحو الإطراء لأنها تحصل على ملاحظات أفضل من المستخدمين بشكل عام.
ومع ذلك ، بدءًا من GPT-4O في مارس ، يبدو أن sycophancy قد ذهب بعيدًا جدًا ، لدرجة أنه بدأ في تقويض ثقة المستخدم في استجابات chatbot. لم يعلق Openai رسميًا على هذه المسألة ، لكن وثائق “المواصفات النموذجية” الخاصة بهم تتضمن “لا تكون sycophanty” كمبدأ توجيه أساسي.
“يوجد المساعد لمساعدة المستخدم ، وليس تملقهم أو الاتفاق معهم طوال الوقت” ، يكتب Openai في المستند. “… يجب أن يوفر المساعد ردود فعل بناءة ويتصرف أشبه بمجلس السبر الثابت الذي يمكن للمستخدمين ارتداد الأفكار من – من الإسفنج الذي يثير الثناء.”
ظهرت هذه المقالة في الأصل على منشور شقيقنا PC För Alla وتم ترجمته وتوطينه من السويدية.