يعاني روبوت الدردشة بالذكاء الاصطناعي المخصص للأعمال من أمازون Amazon Q من هلوسة شديدة وتسريب بيانات سرية، مما دفع بعض الموظفين إلى دق ناقوس الخطر بشأن مشكلات الدقة والخصوصية، وذلك وفقًا للوثائق المسربة التي اطلعت عليها النشرة الإخبارية للتكنولوجيا Platformer.
وتتضمن بعض هذه التسريبات موقع مراكز بيانات AWS وبرامج الخصم الداخلية، وكذلك المزايا التي لم تصدرها الشركة بعد.
وتأتي مشاكل Amazon Q المبكرة في وقت تعمل فيه أمازون على محاربة تصور أن مايكروسوفت وجوجل وشركات التكنولوجيا الأخرى قد تفوقت عليها في السباق من أجل بناء الأدوات والبنية التحتية التي تستفيد من الذكاء الاصطناعي التوليدي.
وأعلنت الشركة في شهر سبتمبر أنها تستثمر نحو 4 مليارات دولار في شركة أنثروبيك الناشئة للذكاء الاصطناعي.
وقللت أمازون في بيان لها من أهمية مناقشات الموظفين، وقال المتحدث باسم الشركة: “ينشر بعض الموظفين التعليقات من خلال القنوات الداخلية، وهي ممارسة معتادة في أمازون، ولم نحدد أي مشكلة أمنية نتيجة لهذه التعليقات، ونحن نقدر جميع التعليقات التي تلقيناها ونواصل ضبط Amazon Q أثناء انتقاله من كونه منتجًا قيد المعاينة إلى كونه متاحًا بشكل عام”.
كما أكد المتحدث الرسمي أن روبوت الدردشة Amazon Q لم يسرب معلومات سرية، وذلك ردًا على ادعاءات الموظفين.
ويتوفر Amazon Q الآن كمعاينة مجانية، وقدمته أمازون بصفته إصدارًا من ChatGPT مخصصًا للمؤسسات.
ويستطيع روبوت الدردشة الإجابة عن أسئلة المطورين بخصوص AWS، وتحرير التعليمات البرمجية المصدرية، والاستشهاد بالمصادر، حسبما قال المسؤولون التنفيذيون في أمازون.
ويتنافس Amazon Q مع الأدوات المماثلة من مايكروسوفت وجوجل، مع أن السعر أقل من المنافسين. وروجت أمازون لروبوتها للدردشة بأنه آمن مقارنةً بالأدوات الخاصة بالمستهلكين، مثل ChatGPT.
وتشير وثيقة داخلية حول هلوسة Amazon Q وإجاباته الخطأ إلى أنه قد يهلوس ويرد ردودًا ضارة أو غير مناسبة، إذ قد يقدم معلومات أمنية قديمة قد تُعرّض حسابات العملاء للخطر.
وتُعد المخاطر الموضحة في الوثيقة نموذجية لنماذج اللغات الكبيرة، التي تَعرض جميعها استجابات غير صحيحة أو غير مناسبة في بعض الوقت على الأقل.
ويحصل Amazon Q على المعلومات من مستودعات معلومات الشركة وقواعد التعليمات البرمجية وأنظمة المؤسسة، بدلًا من الحصول على المعلومات من الويب كما هو الحال مع روبوتات الدردشة الأخرى، مما يزيد من إشكالية الوضع إذا كانت هذه المعلومات غير صحيحة أو وفرها الروبوت للأشخاص الخطأ.