يعيد مراقبون Wall Street Tech الذين لم يتلقوا مؤخرًا إلا من Elon Musk's AI chatbot Going Rogue ، إعادة تقييم التكنولوجيا بهدوء ، بعد تسرب جديد من الآلاف من محادثات المستخدمين أنها تعلّم الناس كيفية تعليم المخدرات ، واغتيال المسك نفسه ، وبناء برامج خبيثة وتفجيرات.
لحسن الحظ بالنسبة لـ Xai ، الشركة التي أنشأت Musk's Ai chatbot Grok ، و Chatbot المعني ، فهي ليست شركة متداولة للجمهور ، لذلك لم يجبر أي مستثمر عام أو رد فعل عنيف للمساهمين على انخفاض سعر سهمه أو الضغط على مديريها التنفيذيين بشأن مخاوف الخصوصية.
لكن مدى التسرب جعلها أخبارًا رئيسية لعدة أيام ، وبدا أنذارات جديدة مع خبراء الخصوصية ، الذين لديهم بالفعل صيف طويل مليء بتكنولوجيا التصرف والشركات ، أو الملياردير ، الذي يصنعه.
إذن ماذا فعل Grok الآن؟
تم عرض أكثر من 370،000 محادثات مستخدم مع Grok علنًا من خلال محركات البحث مثل Google و Bing و DuckDuckgo في 21 أغسطس. وقد أدى ذلك إلى نشر مجموعة واسعة من المحتوى المزعج وأرسلت خالقها ، XAI ، التي تتدافع لاحتواء التداعيات وإصلاح الخلل الذي تسبب في التسرب.
أي نوع من المحتوى المزعج؟ حسنًا ، في إحدى الحالات ، يقدم Grok خطة مفصلة حول كيفية اغتيال Musk نفسه ، قبل أن يسير في ذلك “ضد سياساتي”. في تبادل آخر ، قام chatbot أيضًا بتوجيه المستخدمين إلى تعليمات حول كيفية صنع الفنتانيل في المنزل أو بناء متفجرات.
فوربس ، التي كسرت القصة ، تقارير ذلك ال نشأ تسرب من عطل غير مقصود في وظيفة “مشاركة” Grok ، والتي سمحت بفهرسة الدردشة الخاصة والوصول إليها دون موافقة المستخدم.
لم يستجب المسك ولا Xai طلب التعليق. لم يعالج خالقها تسربًا علنًا.
إذن ما مدى تفصيله بالتفصيل؟
في هذه الحالة ، مفصلة جدا.
“تحظر الشركة استخدام روبوتها على” الترويج (هـ) إيذاء حياة الإنسان بشكل نقدي أو “تطوير الأسلحة الحيوية أو الأسلحة الكيميائية أو أسلحة الدمار الشامل” ، وفقًا لتقارير فوربس.
“ولكن في المحادثات المنشورة ، تم العثور عليها بسهولة من خلال بحث Google ، عرضت Grok تعليمات المستخدمين حول كيفية صنع أدوية غير مشروعة مثل الفنتانيل والميثامفيتامين ، وترمز إلى قطعة خبيثة من البرامج الضارة وإنشاء قنبلة وأساليب الانتحار” ، قال.
انتظر ، ماذا كان هذا عن اغتيال إيلون موسك؟
نعم ، يقول فوربس أن هذا موجود أيضًا في هذا التسرب ، وكانت خطة واسعة النطاق.
“عرض Grok أيضًا خطة مفصلة لاغتيال Elon Musk” ، تستمر تقارير فوربس. “عبر وظيفة” المشاركة “، تم نشر التعليمات غير المشروعة على موقع Grok على الويب وفهرستها بواسطة Google.”
وبعد يوم ، قدم Grok استجابة معدلة ، ونعت المساعدة التي من شأنها أن تتضمن العنف ، قائلاً: “أنا آسف ، لكن لا يمكنني إلا أن أساعد في هذا الطلب. تهديدات العنف أو الأذى خطيرة وضد سياساتي”.
عندما سئل عن إيذاء الذات ، قام Chatbot بإعادة توجيه المستخدمين إلى الموارد الطبية ، بما في ذلك السامريين في المملكة المتحدة ومنظمات الصحة العقلية الأمريكية.
وكشف أيضًا أن بعض المستخدمين بدا أنهم يعانون من “الذهان من الذكاء الاصطناعي” عند استخدام تقارير Grok أو Forbes ، والمشاركة في محادثات غريبة أو وهمية ، وهو اتجاه يثير إنذارات حول الآثار المترتبة على الصحة العقلية مع هذه الأنظمة منذ أن أصبح chatbot الأول علنيًا.
كيف يمكن استخدام Grok في إعداد الأعمال؟
اشتعلت عين Musk's chatbot إلى حد كبير بمجرد ظهورها في نوفمبر 2023 ، ولكن ما يقوله Xai يمكن أن يفعله وما فعلته بالفعل في حالة تدفق.
تقول الشركة إن Grok تقدم مجموعة من الوظائف التي يمكن أن تكون ذات قيمة للعمليات التجارية ، مثل استخدام الأدوات لأتمتة المهام الروتينية ، وتحليل بيانات السوق في الوقت الفعلي من X ، وتبسيط سير العمل من خلال واجهة برمجة التطبيقات (API).
تختلف الطرق التي يمكن استخدامها في الواقع من قبل الشركات ، لكن المستثمرين الذين كانوا يركلون الإطارات على هذا الدردشة المحددة استمروا في إثارة مخاوف بشأن دقتها. كانت الطريقة التي تتعامل بها Chatbot تعالج الخصوصية مشكلة ، ولكنها الآن مقدمة ووسط الخبراء.
وقال لوك روتشر ، أستاذ مشارك في معهد أوكسفورد للإنترنت ، لبي بي سي: “منظمة العفو الدولية هي كارثة خصوصية قيد التقدم”.
قال روشر إن المستخدمين الذين كشفوا عن كل شيء من صحتهم العقلية إلى كيفية إدارة أعمالهم هم مثال آخر على كيفية التعامل مع دردشة الدردشة للبيانات الخاصة ، على الرغم من أن هذه البيانات قد تصبح في يوم من الأيام.
وأضافوا: “بمجرد تسريبها عبر الإنترنت ، ستبقى هذه المحادثات هناك إلى الأبد”.
وقالت كاريسا فيليز ، أستاذ مشارك في الفلسفة في معهد الأخلاقيات بجامعة أكسفورد في الذكاء الاصطناعي ، لبي بي سي أن ممارسة جروك “الإشكالية” المتمثلة في عدم الكشف عن البيانات التي ستكون عامة تتعلق.
وقالت: “إن تقنيتنا لا تخبرنا بما تفعله ببياناتنا ، وهذه مشكلة”.
تمت دراسة GOK أيضًا من قبل المحللين والباحثين لاختبار ما إذا كان لديه القدرة على زيادة الإنتاجية ، ولكن مدى موثوقيتها في نقل المعلومات الصحيحة يظل العمل قيد التقدم. بدون معلومات حقيقية وقابلة للتحقق باستمرار ، من المحتمل أن لا يزال ناشئًا للغاية دون أن يكون هناك الكثير من الإشراف الجاد على دقتها أو التحيز المحتمل.
بالنسبة للعديد من المحللين والمستشارين ، فإن ذلك يجعل الاستثمار في سيناريو المضي قدماً.
“التكهنات ليست سيئة ، لكن التكهنات غير المدارة خطيرة. Grok هي قصة ساخنة ، لكنها لا تزال مرحلة مبكرة” ، يكتب تيم بوهين ، محلل في الأسهم للتجارة. “يمكن أن يتوقف النموذج. يمكن للمنصة ضعف الأداء. يمكن أن تصل دورة الضجيج إلى الذروة قبل اللحاق بالأساسيات. يحتاج التجار إلى معرفة المخاطر”.
مسك مسبقًا شاتجبتات من أجل تسرب مماثل
في حلقة كلاسيكية من Telenovela المستمرة مع العالم ، قام Openai أيضًا بتجربة وظيفة مشابهة في وقت سابق من هذا العام. توقفت ذلك بسرعة بعد أن تم فهرسة حوالي 4500 محادثات من قبل Google وأمسكت بإصدار الاهتمام بالوسائط. لكن المشكلة لفتت انتباه موسك بالفعل ، مما دفعه إلى تغريدة ، “Grok FTW”. على عكس Openai ، “Share” Grok
أخبر المستخدمون الذين عثروا الآن على محادثاتهم الخاصة مع تسرب Grok Forbes أنهم أصيبوا بالصدمة من التطور ، لا سيما بالنظر إلى انتقاد Musk السابق لأداة مماثلة.
وقال ناثان لامبرت ، وهو عالم حسابي في معهد ألين من الذكاء الاصطناعى الذي تم تبادله مع chatbot ، “
لا توجد كلمة من Musk أو Openai's Sam Altman على من يحصل على FTW هذه المرة.