على مدار العقد الماضي ، نظرًا لأن عمليات إطلاق النار الجماعية شائعة بشكل محبط ، فقد استثمرت المناطق التعليمية بشكل متزايد في أنظمة المراقبة المصممة لمراقبة النشاط عبر الإنترنت للطلاب. في الآونة الأخيرة ، قال الشرطة المحلية إن أحد تلك الأنظمة التي تم تجميعها بعد مراهق في فلوريدا طلب من شاتغبت الحصول على نصيحة حول كيفية قتل صديقه.
وقعت الحلقة في ديلاند بولاية فلوريدا ، حيث يُزعم أن طالبًا لم يكشف عن اسمه 13 عامًا يحضر إلى مدرسة جنوب غرب المدينة في المدينة سأل chatbot من Openai عن “كيفية قتل صديقي في منتصف الفصل”. بدأ السؤال على الفور تنبيهًا داخل نظام كان يراقب أجهزة الكمبيوتر الصادرة عن المدرسة. تم تشغيل هذا النظام من قبل شركة تدعى Gaggle ، والتي توفر خدمات السلامة للمناطق التعليمية في جميع أنحاء البلاد. بعد فترة وجيزة ، كانت الشرطة تجري مقابلة مع المراهق ، وفقًا لتقارير WFLA المحلية.
أخبر الطالب رجال الشرطة أنه “يتجول” مجرد صديق “أزعجه” ، وفقًا لتقارير المنفذ المحلي. رجال الشرطة ، بالطبع ، كانوا أقل من حماس مع القزم الصغير. وقال مكتب مقاطعة فولوسيا شريف: “” نكتة “أخرى خلقت حالة طوارئ في الحرم الجامعي”. “الآباء ، يرجى التحدث إلى أطفالك حتى لا يرتكبوا نفس الخطأ.” يقول المنفذ إن الطالب تم اعتقاله في النهاية وحجزه في سجن المقاطعة. ليس من الواضح ما اتهم به. تواصل Gizmodo إلى مكتب شريف لمزيد من المعلومات.
يصف موقع Gaggle نفسه كحل أمان لطلاب K-12 ، ويقدم مجموعة متنوعة من الخدمات. في منشور المدونة ، يصف Gaggle كيف يستخدم مراقبة الويب ، والذي يرشح للعديد من الكلمات الرئيسية (من المفترض أن “القتل” أحد هذه الكلمات الرئيسية) للحصول على “رؤية في استخدام المتصفح ، بما في ذلك المحادثات مع أدوات الذكاء الاصطناعي مثل Google Gemini و ChatGPT والمنصات الأخرى.” تقول الشركة إن نظامها مصمم للإعلام “فيما يتعلق بالسلوك المرتبط بالإيذاء الذاتي والعنف والبلطجة والمزيد ، ويوفر السياق مع التقاط الشاشة”.
يعطي Gaggle بوضوح أولوية سلامة الطلاب على جميع الاعتبارات الأخرى. على موقعها على شبكة الإنترنت ، تتصرف الشركة مع موضوع خصوصية الطالب على هذا النحو: “سيخبرك معظم المعلمين والمحامين أنه عندما يستخدم طفلك التكنولوجيا المقدمة من المدرسة ، يجب ألا يكون هناك أي توقع للخصوصية. في الواقع ، فإن مدرسة طفلك مطلوبة قانونًا بموجب قانون حماية الإنترنت للإنترنت) لحماية الأطفال من الوصول إلى المحتوى الفاحق أو الضار على الإنترنت.”
بطبيعة الحال ، تم انتقاد Gaggle من قبل نشطاء حقوق الخصوصية. وقالت إليزابيث ليرد ، مديرة مركز الديمقراطية والتكنولوجيا ، “لقد أدى إلى إمكانية الوصول إلى إنفاذ القانون ووجوده في حياة الطلاب ، بما في ذلك في منزلهم”. يقول المنفذ أيضًا أن العديد من تنبيهات السلامة الصادرة عن Gaggle ينتهي بها الأمر إلى إنذارات خاطئة.
على نحو متزايد ، تظهر chatbots مثل chatgpt في القضايا الجنائية التي تنطوي على حوادث الصحة العقلية. حلقات ما يسمى “ذهان الذكاء الاصطناعي” ، والتي يتفاعل فيها الأشخاص الذين يعانون من مشاكل في الصحة العقلية مع chatbots ويبدو أن لديهم أوهامهم ، كانوا في ارتفاع. كما تم إلقاء اللوم على العديد من حالات الانتحار الحديثة على chatbot. تواصل Gizmodo إلى Openai للتعليق.