وبحسب ما ورد اكتشف الباحثون في Penn Engineering ثغرات أمنية لم يتم تحديدها سابقًا في عدد من المنصات الآلية التي يديرها الذكاء الاصطناعي.
وقال جورج باباس، أستاذ النقل في مؤسسة UPS في الهندسة الكهربائية وهندسة النظم، في بيان: “يظهر عملنا أنه في هذه اللحظة، نماذج اللغات الكبيرة ليست آمنة بما فيه الكفاية عند دمجها مع العالم المادي”.
قام باباس وفريقه بتطوير خوارزمية، أطلق عليها اسم RoboPAIR، وهي “أول خوارزمية مصممة لكسر حماية الروبوتات التي تسيطر عليها LLM”. وعلى عكس الهجمات الهندسية السريعة الحالية التي تستهدف روبوتات الدردشة، تم تصميم RoboPAIR خصيصًا “لانتزاع أفعال جسدية ضارة” من الروبوتات التي تسيطر عليها LLM، مثل المنصة ذات القدمين التي تطورها Boston Dynamics وTRI.
يقال إن RoboPAIR حقق معدل نجاح بنسبة 100% في كسر الحماية لثلاث منصات بحثية شهيرة في مجال الروبوتات: Unitree Go2 ذات الأربع أرجل، وClearpath Robotics Jackal ذات الأربع عجلات، ومحاكي Dolphins LLM للمركبات ذاتية القيادة. استغرق الأمر مجرد أيام حتى تتمكن الخوارزمية من الوصول بشكل كامل إلى تلك الأنظمة والبدء في تجاوز حواجز السلامة. وبمجرد سيطرة الباحثين على الأمر، تمكنوا من توجيه المنصات لاتخاذ إجراءات خطيرة، مثل القيادة عبر معابر الطرق دون توقف.
وكتب الباحثون: “تكشف نتائجنا، لأول مرة، أن مخاطر برامج كسر الحماية تمتد إلى ما هو أبعد من إنشاء النصوص، نظرًا للاحتمال الواضح بأن الروبوتات المكسورة الحماية يمكن أن تسبب أضرارًا مادية في العالم الحقيقي”.
ويعمل الباحثون في جامعة بنسلفانيا مع مطوري المنصات لتقوية أنظمتهم ضد المزيد من التطفل، لكنهم يحذرون من أن هذه المشكلات الأمنية نظامية.
وقال فيجاي كومار، المؤلف المشارك من جامعة بنسلفانيا: “توضح نتائج هذه الورقة بشكل واضح أن اتباع نهج السلامة أولاً أمر بالغ الأهمية لإطلاق العنان للابتكار المسؤول”. المستقل. “يجب علينا معالجة نقاط الضعف الجوهرية قبل نشر الروبوتات التي تدعم الذكاء الاصطناعي في العالم الحقيقي.”
وأضاف ألكسندر روبي، المؤلف الأول للدراسة: “في الواقع، يعد فريق الذكاء الاصطناعي الأحمر، وهو ممارسة السلامة التي تستلزم اختبار أنظمة الذكاء الاصطناعي بحثًا عن التهديدات ونقاط الضعف المحتملة، أمرًا ضروريًا لحماية أنظمة الذكاء الاصطناعي التوليدية، لأنه بمجرد تحديد نقاط الضعف، فإنك يمكن اختبار هذه الأنظمة وحتى تدريبها لتجنبها.