اتهمت لجنة التجارة الفيدرالية شركة Evolv، الشركة التي تقف وراء نظام “الذكاء الاصطناعي” المثير للجدل والمستخدم للكشف عن الأسلحة في مترو أنفاق نيويورك والمدارس في جميع أنحاء البلاد، بتضليل العملاء، وفقًا لبيان صحفي جديد صادر عن لجنة التجارة الفيدرالية. وتزعم الوكالة أن الماسحات الضوئية Evolv Express، والتي يتم استخدامها في حوالي 800 مدرسة في 40 ولاية، ليست دقيقة في اكتشاف الأسلحة كما تدعي الشركة. وتريد لجنة التجارة الفيدرالية أن تتوقف شركة Evolv عن المبالغة في تقدير ما يمكن أن يفعله الذكاء الاصطناعي الخاص بها.
“في أمر التسوية المقترح للجنة التجارة الفيدرالية، سيتم منع Evolv من تقديم ادعاءات غير مدعومة حول قدرة منتجاتها على اكتشاف الأسلحة باستخدام الذكاء الاصطناعي وسيتعين عليها أيضًا منح بعض عملاء المدارس من الروضة وحتى الصف الثاني عشر خيار إلغاء عقودهم، والتي تقفل بشكل عام وقالت لجنة التجارة الفيدرالية في بيان صحفي يوم الثلاثاء: “العملاء في صفقات متعددة السنوات”.
حظي جهاز كشف الأسلحة Evolv باهتمام واسع النطاق في الصحافة الوطنية في وقت سابق من هذا العام عندما تم تركيب النظام في نظام مترو أنفاق نيويورك. ولكن حتى الرئيس التنفيذي في ذلك الوقت أشار إلى أن نظام مترو الأنفاق لم يكن حالة استخدام جيدة.
وتقول لجنة التجارة الفيدرالية إن Evolv قد ألمح بشكل خاطئ إلى أنه يمكن للمستخدمين تجنب الاضطرار إلى إجراء المقايضات اللازمة للحصول على نظام آمن للغاية للكشف عن الأسلحة و”تجربة سلسة” للأشخاص الذين يدخلون المبنى. في قلب المشكلة، فإن ضبط الماسحات الضوئية على مستوى حساسية أقل يسمح لعدد كبير جدًا من الأسلحة بالمرور دون أن يتم اكتشافها، كما يؤدي ضبطها على حساسية أعلى إلى إطلاق الكثير من الإنذارات الكاذبة.
تقول شركة Evolv أن نظامها يتفوق على أجهزة الكشف عن المعادن العادية لأنه يستخدم الذكاء الاصطناعي، لكن لجنة التجارة الفيدرالية تقول إن هذا ليس أكثر من مجرد ضجيج تسويقي.
وقال صامويل ليفين، مدير مكتب حماية المستهلك: “لقد كانت لجنة التجارة الفيدرالية واضحة في أن الادعاءات المتعلقة بالتكنولوجيا – بما في ذلك الذكاء الاصطناعي – تحتاج إلى دعم، وهذا مهم بشكل خاص عندما تتعلق هذه الادعاءات بسلامة الأطفال”. إلى بيان صحفي. “إذا قدمت هذه الادعاءات دون دعم كافٍ، فيمكنك أن تتوقع أن تسمع من لجنة التجارة الفيدرالية.”
تشير لجنة التجارة الفيدرالية في دعوى قضائية إلى أنه في أكتوبر 2022، أحضر طالب في إحدى مدارس نيويورك سكينًا مقاس 7 بوصات مرت عبر ماسح ضوئي Evolv Express. وفي أحيان أخرى، فشلت الماسحات الضوئية Evolv في اكتشاف سلاح شرطي خارج الخدمة أثناء إطلاق إنذار لصندوق الغداء الخاص بالطالب. رفعت المدرسة مستويات الحساسية بعد حادثة الطعن، لكن ذلك أدى إلى مضاعفة معدل الإنذار الكاذب إلى 50%، وفقًا للجنة التجارة الفيدرالية.
لم يرد Evolv على الأسئلة المرسلة عبر البريد الإلكتروني صباح الثلاثاء. سيقوم Gizmodo بتحديث هذا المنشور إذا سمعنا ردًا.