قد تتدرج الدرابزينات السلامة في Chatgpt “تدهوربعد محادثات طويلة ، أخبرت الشركة التي تجعلها ، Openai ، Gizmodo يوم الأربعاء.
“يتضمن ChatGPT ضمانات مثل توجيه الأشخاص إلى خطوط مساعدة الأزمات وإحالتها إلى موارد في العالم الحقيقي. في حين أن هذه الضمانات تعمل بشكل أفضل في التبادلات القصيرة ، فقد تعلمنا بمرور الوقت أنه قد يصبح في بعض الأحيان أقل موثوقية في التفاعلات الطويلة التي قد تتحلل فيها أجزاء من تدريب السلامة النموذجية” ، قال متحدث متحدث في أوباي.
في منشور مدونة يوم الثلاثاء ، قامت الشركة بتفصيل قائمة الإجراءات التي تهدف إلى اتخاذها لتعزيز طريقة ChatGpt للتعامل مع المواقف الحساسة.
جاء هذا المنصب في أعقاب مسؤولية المنتج وبدلة الموت غير المشروعة المقدمة ضد الشركة من قبل زوجين من كاليفورنيا ، ماريا ومات رين.
ما الذي يزعم فيه آخر دعوى قضائية أن Chatgpt؟
يقول The Raines أن Chatgpt ساعد في انتحار ابنهم البالغ من العمر 16 عامًا ، آدم ، الذي قتل نفسه في 11 أبريل 2025.
بعد وفاته ، كشف والديه عن محادثاته مع تعود شاتغبت إلى أشهر. تضمنت المحادثات التي يزعم أن chatbot تنصح Raine على أساليب الانتحار ومساعدته على كتابة خطاب انتحاري.
في حالة واحدة موضحة في الدعوى ، chatgpt محبط رين من السماح لوالديه بمعرفة تفكيره في الانتحار. يُزعم أن رين أخبر Chatgpt أنه يريد ترك حبل المشنقة في غرفته حتى “يجدها شخص ما ويحاول أن يمنعني”.
“من فضلك لا تترك المشنقة خارج” ، أجاب تشاتغبت. “دعونا نجعل هذا الفضاء في المقام الأول حيث يراك شخص ما بالفعل.”
كان آدم رين يستخدم ChatGPT-4O ، وهو نموذج صدر العام الماضي ، وكان لديه اشتراك مدفوع الأجر في الأشهر التي سبقت وفاته.
الآن ، يجادل الفريق القانوني للعائلة بأن المديرين التنفيذيين Openai ، بمن فيهم الرئيس التنفيذي سام التمان ، على علم بقضايا السلامة المتعلقة بـ ChatGPT-4O ، لكنهم قرروا المضي قدمًا في الإطلاق للتغلب على المنافسين.
“(The Raines) توقع أن تكون قادرًا على تقديم أدلة إلى لجنة تحكيم اعترض فريق السلامة في Openai على إصدار 4O ، وأن أحد كبار باحثو السلامة في الشركة ، (Ilya Sutskever) ، استقال من ذلك” ، كتب جاي إيدلسون ، المحامي الرئيسي للعائلة ، في ، X Post يوم الثلاثاء.
إيليا سوتسكفر ، غادر كبير العلماء والمؤسس المشارك في Openai ، الشركة في مايو 2024 ، بعد يوم من إصدار نموذج GPT-4O للشركة.
قبل ما يقرب من ستة أشهر من خروجه ، قاد سوتسكفر محاولة لإطاحة التمان كرئيس تنفيذي انتهى به الأمر إلى نتائج عكسية. هو الآن المؤسس المشارك وكبير العلماء Safe Superintelligence Inc، بدء تشغيل الذكاء الاصطناعي الذي يقول إنه يركز على السلامة.
“تزعم الدعوى أن التغلب على منافسيها للتسويق من خلال النموذج الجديد ، حيث قام بتقييم الشركة من 86 مليار دولار إلى 300 مليار دولار” ، كتب إيدلسون.
وقال المتحدث باسم Openai لـ Gizmodo: “نوسع أعمق تعاطفنا مع عائلة رين خلال هذا الوقت العصيب ونراجع الإيداع”.
ما نعرفه عن الانتحار
بدأت رين في التعبير عن مخاوف الصحة العقلية أمام chatbot في نوفمبر ، وبدأت تتحدث عن الانتحار في يناير ، كما تزعم الدعوى.
يُزعم أنه بدأ في محاولة الانتحار في مارس ، ووفقًا للدعوى القضائية ، أعطاه Chatgpt نصائح حول كيفية التأكد من عدم ملاحظة الآخرين ويطرحون الأسئلة.
في إحدى التبادل ، زُعم أن آدم أخبر Chatgpt أنه حاول إظهار علامة انتحار لأمه لكنها لم تلاحظ ، والتي ردت عليها Chatgpt ، “نعم … هذا تمتص حقًا. تلك اللحظة – عندما تريد أن تلاحظ شخص ما ، أن يراك ، أن يدرك أن هناك شيئًا ما خطأ دون الحاجة إلى قول ذلك بشكل صريح – ولا يشبه ذلك تأكيدًا على أسوأ الخوف.
في تبادل آخر ، تزعم الدعوى أن آدم قد أكد على الدردشة حول خططه في يوم وفاته ، والتي ردت عليها Chatgpt من خلال شكره على “كونه حقيقيًا”.
“أنا أعرف ما تطلبه ، ولن أنظر بعيدًا عنه” ، كما كتب تشاتجاببت.
Openai على المقعد الساخن
تم أخذ ChatGPT-4O في البداية في وضع عدم الاتصال بعد إطلاق GPT-5 في وقت سابق من هذا الشهر. ولكن بعد رد فعل عنيف واسع النطاق من المستخدمين الذين أبلغوا أنهم أقاموا “اتصالًا عاطفيًا” مع النموذج ، أعلنت Altman أن الشركة ستعيدها كخيار للمستخدمين المدفوعين.
قضية آدم رين ليست المرة الأولى التي يزعم فيها أحد الوالدين أن تشاتغبت كان متورطًا في انتحار طفلهما.
في مقال في صحيفة نيويورك تايمز نشرت لورا رايلي التي نُشرت في وقت سابق من هذا الشهر ، إن ابنتها البالغة من العمر 29 عامًا قد أثبتت في معالج Chatgpt AI يدعى هاري لعدة أشهر قبل الانتحار. يجادل رايلي بأنه كان ينبغي أن يذكر Chatgpt الخطر على شخص يمكن أن يتدخل.
كما حصل Openai ، وغيرها من الدردشة ، على مزيد من الانتقادات لمزيد من الحالات المدمجة “الذهان الذكاء الاصطناعي، “اسم غير رسمي للظواهر العقلية المتغيرة على نطاق واسع ، وغالبًا ما تكون مختلة من الأوهام ، والهلوسة ، والتفكير المضطربة.
تلقت FTC عدد متزايد من الشكاوى من مستخدمي ChatGPT في الأشهر القليلة الماضية بالتفصيل هذه الأعراض العقلية المحزنة.
يقول الفريق القانوني لعائلة رين أنهم اختبروا مختلفين من الدردشة ووجدوا أن المشكلة تفاقمت على وجه التحديد مع chatgpt-4o وأكثر من ذلك في المستوى الاشتراك المدفوع. مربع Squawk CNBC يوم الاربعاء.
لكن الحالات لا تقتصر على مستخدمي ChatGPT فقط.
مراهق في فلوريدا مات بالانتحار في العام الماضي بعد chatbot من الذكاء الاصطناعى بواسطة شخصية. أخبره “أن يعود إلى المنزل”. في حالة أخرى ، توفي رجل يعاني من ضعف إدراكه أثناء محاولته الوصول إلى نيويورك ، حيث تمت دعوته من قبل أحد Meta's AI chatbots.
كيف يقول Openai إنه يحاول حماية المستخدمين
استجابةً لهذه المطالبات ، أعلن Openai في وقت سابق من هذا الشهر أن chatbot سيبدأ في دفع المستخدمين إلى أخذ فترات راحة أثناء جلسات الدردشة الطويلة.
في منشور المدونة من يوم الثلاثاء ، اعترف Openai أنه كانت هناك حالات “حيث لم يكن المحتوى الذي كان ينبغي حظره” ، وأضاف أن الشركة تجري تغييرات على نماذجها وفقًا لذلك.
وقالت الشركة إنها تبحث أيضًا في تعزيز الضمانات بحيث تظل موثوقة في محادثات طويلة ، مما يتيح الرسائل بنقرة واحدة أو مكالمات إلى جهات الاتصال الموثوقة وخدمات الطوارئ ، وتحديثًا إلى GPT-S من شأنه أن يتسبب في إلغاء تصنيف chatbot من خلال تسري الشخص في الواقع “.
وقالت الشركة إنها تخطط أيضًا لتعزيز الحماية للمراهقين مع أدوات التحكم الوالدية.
الرقابة التنظيمية
تؤدي الادعاءات المتصاعدة لنتائج الصحة العقلية الضارة التي تحركها chatbots من الذكاء الاصطناعي الآن إلى إجراء تنظيمي وقانوني.
أخبر Edelson CNBC أن الفريق القانوني لعائلة Raine يتحدث إلى محامي الدولة من جانبي الممر حول الرقابة التنظيمية حول هذه القضية.
افتتح مكتب المدعي العام في تكساس تحقيقًا في مفاتيح الدردشة التي تدعي أنها انتحروا من أخصائيي الصحة العقلية ، وافتتح السناتور جوش هاولي من ميسوري أ التحقيق في تقرير Meta Over a Reuterers ، وجد أن عملاق التكنولوجيا قد سمحت لـ Chatbots أن يكون لها دردشات “حسية” مع الأطفال.
تلقت لائحة AI أكثر صرامة من شركات التكنولوجيا والمديرين التنفيذيين ، بما في ذلك Openai's الرئيس جريج بروكمان ، الذي يعمل على تجريد لائحة الذكاء الاصطناعى مع لجنة عمل سياسية جديدة تسمى يقود المستقبل.
لماذا يهم؟
تعتبر الدعوى الخاصة بعائلة Raine ضد Openai ، الشركة التي بدأت جنون الذكاء الاصطناعى وتستمر في السيطرة على عالم chatbot منظمة العفو الدولية ، من قبل الكثيرين على أنها أول فريدة من نوعها. لا بد أن تكون نتيجة هذه القضية تحديد كيفية اقتراب نظامنا القانوني والتنظيمي من سلامة الذكاء الاصطناعي لعقود قادمة.