أصبحت الهلوسة الذكاء الاصطناعى أكثر خطورة لأن النماذج موثوق بها بشكل متزايد من المعلومات السطحية واتخاذ القرارات الحرجة.
لقد حصلنا جميعًا على هذا الصديق المعروف الذي لا يمكنه الاعتراف عندما لا يعرفون شيئًا ما ، أو يلجأون إلى تقديم نصيحة مراوغة بناءً على شيء قرأوه عبر الإنترنت. الهلوسة من قبل نماذج الذكاء الاصطناعى تشبه هذا الصديق ، ولكن هذا يمكن أن يكون مسؤولاً عن خلق خطة علاج السرطان الخاصة بك.
هذا هو المكان الذي يدخل فيه ثيميس AI الصورة. تمكنت هذا Spinout من معهد ماساتشوستس للتكن
عادة ما تعرض أنظمة الذكاء الاصطناعى الثقة المفرطة. تعمل منصة Capsa 'Themis بمثابة فحص واقع على الذكاء الاصطناعي ، مما يساعد النماذج على التعرف على عندما تغامر في التخمين بدلاً من اليقين.
تأسست في عام 2021 من قبل أستاذ معهد ماساتشوستس للتكنولوجيا دانييلا روس ، إلى جانب زملاء الأبحاث السابقين ألكساندر أميني وإلهيه أحمدي ، طور ثيميس منصة يمكن أن تتكامل مع أي نظام منظمة العفو الدولية تقريبًا لعلامة لحظات من عدم اليقين قبل أن تؤدي إلى الأخطاء.
تقوم CAPSA بتدريب AI بشكل أساسي على اكتشاف الأنماط في كيفية معالجة المعلومات التي قد تشير إلى أنها مرتبكة أو متحيزة أو العمل مع بيانات غير مكتملة يمكن أن تؤدي إلى الهلوسة.
منذ إطلاقه ، تدعي TheMis أنها ساعدت شركات الاتصالات على تجنب أخطاء تخطيط الشبكات المكلفة ، ومساعدة شركات النفط والغاز بمساعدة من فهم البيانات الزلزالية المعقدة ، والبحوث المنشورة حول إنشاء chatbots التي لا تصنع الأمور بثقة.
لا يزال معظم الناس غير مدركين لعدد المرات أنظمة الذكاء الاصطناعى ببساطة تتخذ أفضل تخمين. نظرًا لأن هذه الأنظمة تتعامل مع مهام حاسمة بشكل متزايد ، فقد يكون لهذه التخمينات عواقب وخيمة. يضيف برنامج Themis AI طبقة من الوعي الذاتي المفقود.
رحلة ثيميس نحو معالجة الهلوسة منظمة العفو الدولية
بدأت الرحلة إلى Themis AI منذ سنوات في مختبر MIT البروفيسور روس ، حيث كان الفريق يحقق في مشكلة أساسية: كيف تجعل الجهاز يدرك قيوده؟
في عام 2018 ، قامت تويوتا بتمويل أبحاثها في AI موثوقة للسيارات ذاتية القيادة-قطاع يمكن أن تكون الأخطاء قاتلة. تكون المخاطر عالية بشكل لا يصدق عندما يجب أن تحدد المركبات ذاتية الحكم بدقة المشاة وغيرها من مخاطر الطرق.
جاء اختراقهم عندما طوروا خوارزمية يمكن أن تكتشف التحيز العنصري والجنساني في أنظمة التعرف على الوجه. بدلاً من مجرد تحديد المشكلة ، قام نظامهم بالفعل بإصلاحها من خلال إعادة توازن بيانات التدريب – وهو تعليم الذكاء الاصطناعى بشكل أساسي لتصحيح تحيزاتها.
بحلول عام 2021 ، أظهروا كيف يمكن أن يحدث هذا النهج ثورة في اكتشاف المخدرات. يمكن أن تقوم أنظمة الذكاء الاصطناعى بتقييم الأدوية المحتملة ، ولكن – بشكل أساسي – عندما كانت تنبؤاتها تستند إلى أدلة قوية مقابل التخمين المتعلمين أو الهلوسة الكاملة. أدركت صناعة الأدوية المدخرات المحتملة في المال والوقت من خلال التركيز فقط على مرشحي المخدرات التي كان منظمة العفو الدولية واثقة.
ميزة أخرى للتكنولوجيا هي للأجهزة ذات القدرة الحوسبة المحدودة. تستخدم أجهزة Edge نماذج أصغر لا يمكن أن تتطابق مع دقة النماذج الضخمة التي يتم تشغيلها على الخادم ، ولكن مع تقنية TheMis ، ستكون هذه الأجهزة أكثر قدرة على التعامل مع معظم المهام محليًا ولا تطلب سوى المساعدة من الخوادم الكبيرة عندما تواجه شيئًا صعبًا.
منظمة العفو الدولية تحمل إمكانات هائلة لتحسين حياتنا ، لكن هذه الإمكانات تأتي مع مخاطر حقيقية. نظرًا لأن أنظمة الذكاء الاصطناعى أصبحت أكثر عمقًا في البنية التحتية والقرارات الحرجة ، فإن القدرة على الاعتراف بعدم اليقين التي تؤدي إلى الهلوسة قد تكون أكثر جودة لها – والأكثر قيمة -. Themis AI يتأكد من أنهم يتعلمون هذه المهارة الحاسمة.
انظر أيضا: إدارة مرض السكري: يستخدم IBM و Roche الذكاء الاصطناعي للتنبؤ بمستويات السكر في الدم
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الكبيرة من قادة الصناعة؟ تحقق من AI و Big Data Expo الذي يقام في أمستردام ، كاليفورنيا ، ولندن. تم تحديد الحدث الشامل مع الأحداث الرائدة الأخرى بما في ذلك مؤتمر الأتمتة الذكي ، و blockx ، وأسبوع التحول الرقمي ، ومعرض Cyber Security & Cloud.
استكشاف أحداث وندوات الويب القادمة الأخرى التي تعمل بها TechForge هنا.