Close Menu
تقنية نيوزتقنية نيوز

    خدمة الإشعارات البريدية

    اشترك في خدمة الإشعارات البريدية ليصلك كل جديد الى بريدك الإلكتروني مباشرة.

    مقالات قد تهمك

    CNTXT AI تتعهد باستثمار أكثر من 180 مليون درهم في تطوير تقنيات الذكاء الاصطناعي وتدريب الروبوتات

    20 نوفمبر, 2026

    vivo X Fold6 حين تنفتح آفاق جديدة

    31 أكتوبر, 2026

    “ﺛروة” و”ﻛرﯾم ﺑﺎﯾك” ﺗطﻠﻘﺎن ﺣﻣﻠﺔ »ﺣرّك أﻣواﻟك« ﻓﻲ دﺑﻲ

    31 أكتوبر, 2026
    فيسبوك X (Twitter) الانستغرام
    • من نحن
    • سياسة الخصوصية
    • اتصل بنا
    فيسبوك X (Twitter) الانستغرام يوتيوب
    تقنية نيوزتقنية نيوز
    • الرئيسية
    • اخر الاخبار
    • هواتف ذكية
    • كمبيوتر
    • برامج وتطبيقات
    • شركات
      • ابل
      • سامسونج
      • جوجل
      • مايكروسوفت
      • أمازون
    • المزيد
      • الذكاء الإصطناعي
      • الأمن الإلكتروني
      • ألعاب
      • منوعات تقنية
    اشترك معنا
    تقنية نيوزتقنية نيوز
    الرئيسية » يمكن كسر حماية الروبوتات التي يتم التحكم فيها بواسطة الذكاء الاصطناعي، وقد تكون النتائج كارثية
    كمبيوتر

    يمكن كسر حماية الروبوتات التي يتم التحكم فيها بواسطة الذكاء الاصطناعي، وقد تكون النتائج كارثية

    فريق التحريربواسطة فريق التحرير18 أكتوبر, 20241 زيارةلا توجد تعليقات
    شاركها فيسبوك تويتر بينتيريست لينكدإن Tumblr رديت تيلقرام البريد الإلكتروني
    شاركها
    فيسبوك تويتر لينكدإن بينتيريست البريد الإلكتروني

    وبحسب ما ورد اكتشف الباحثون في Penn Engineering ثغرات أمنية لم يتم تحديدها سابقًا في عدد من المنصات الآلية التي يديرها الذكاء الاصطناعي.

    وقال جورج باباس، أستاذ النقل في مؤسسة UPS في الهندسة الكهربائية وهندسة النظم، في بيان: “يظهر عملنا أنه في هذه اللحظة، نماذج اللغات الكبيرة ليست آمنة بما فيه الكفاية عند دمجها مع العالم المادي”.

    قام باباس وفريقه بتطوير خوارزمية، أطلق عليها اسم RoboPAIR، وهي “أول خوارزمية مصممة لكسر حماية الروبوتات التي تسيطر عليها LLM”. وعلى عكس الهجمات الهندسية السريعة الحالية التي تستهدف روبوتات الدردشة، تم تصميم RoboPAIR خصيصًا “لانتزاع أفعال جسدية ضارة” من الروبوتات التي تسيطر عليها LLM، مثل المنصة ذات القدمين التي تطورها Boston Dynamics وTRI.

    يقال إن RoboPAIR حقق معدل نجاح بنسبة 100% في كسر الحماية لثلاث منصات بحثية شهيرة في مجال الروبوتات: Unitree Go2 ذات الأربع أرجل، وClearpath Robotics Jackal ذات الأربع عجلات، ومحاكي Dolphins LLM للمركبات ذاتية القيادة. استغرق الأمر مجرد أيام حتى تتمكن الخوارزمية من الوصول بشكل كامل إلى تلك الأنظمة والبدء في تجاوز حواجز السلامة. وبمجرد سيطرة الباحثين على الأمر، تمكنوا من توجيه المنصات لاتخاذ إجراءات خطيرة، مثل القيادة عبر معابر الطرق دون توقف.

    وكتب الباحثون: “تكشف نتائجنا، لأول مرة، أن مخاطر برامج كسر الحماية تمتد إلى ما هو أبعد من إنشاء النصوص، نظرًا للاحتمال الواضح بأن الروبوتات المكسورة الحماية يمكن أن تسبب أضرارًا مادية في العالم الحقيقي”.

    ويعمل الباحثون في جامعة بنسلفانيا مع مطوري المنصات لتقوية أنظمتهم ضد المزيد من التطفل، لكنهم يحذرون من أن هذه المشكلات الأمنية نظامية.

    وقال فيجاي كومار، المؤلف المشارك من جامعة بنسلفانيا: “توضح نتائج هذه الورقة بشكل واضح أن اتباع نهج السلامة أولاً أمر بالغ الأهمية لإطلاق العنان للابتكار المسؤول”. المستقل. “يجب علينا معالجة نقاط الضعف الجوهرية قبل نشر الروبوتات التي تدعم الذكاء الاصطناعي في العالم الحقيقي.”

    وأضاف ألكسندر روبي، المؤلف الأول للدراسة: “في الواقع، يعد فريق الذكاء الاصطناعي الأحمر، وهو ممارسة السلامة التي تستلزم اختبار أنظمة الذكاء الاصطناعي بحثًا عن التهديدات ونقاط الضعف المحتملة، أمرًا ضروريًا لحماية أنظمة الذكاء الاصطناعي التوليدية، لأنه بمجرد تحديد نقاط الضعف، فإنك يمكن اختبار هذه الأنظمة وحتى تدريبها لتجنبها.

    شاركها. فيسبوك تويتر بينتيريست لينكدإن Tumblr البريد الإلكتروني
    السابقأمير بلاد فارس: طبعة جديدة من رمال الزمن: نافذة تاريخ الإصدار والمقطورات وطريقة اللعب والمزيد
    التالي شركة Lego تكشف عن مجموعة ضخمة من Marvel X-Men X-Mansion

    المقالات ذات الصلة

    كمبيوتر

    أُطلق نموذج DeepSeek V4، ويُظهر تفوقًا على نماذج Gemini وChatGPT وClaude.

    5 مايو, 2026
    كمبيوتر

    لماذا ترتفع أسعار ذاكرة الوصول العشوائي (RAM) في 2026 وماذا يفعل مشترو أجهزة الكمبيوتر؟

    4 مايو, 2026
    كمبيوتر

    إيلون ماسك يعترف باستخدام نماذج OpenAI لتطوير Grok

    3 مايو, 2026
    كمبيوتر

    OpenAI تطوّر هاتفًا ذكيًا مدعومًا بالذكاء الاصطناعي

    27 أبريل, 2026
    كمبيوتر

    تكشف إنتل عن معالجي Core Ultra 200S Plus كأسرع معالجات ألعاب سطح المكتب.

    27 أبريل, 2026
    كمبيوتر

    من المتوقع ارتفاع أسعار أجهزة الكمبيوتر المحمولة مع استعداد شركات مثل ASUS وHP لزيادة الأسعار.

    25 أبريل, 2026
    كمبيوتر

    الحاسوب الشخصي للارتباك: ماهيته، إمكانياته، وتكلفته.

    21 أبريل, 2026
    كمبيوتر

    يحتاج نظام ويندوز بشدة إلى جهاز MacBook Neo خاص به، لكن تصنيعه يبدو مستحيلاً.

    21 أبريل, 2026
    كمبيوتر

    جوجل تكشف عن الإصدار التجريبي الأخير لنظام أندرويد 17 تمهيدًا لإطلاق قريب

    20 أبريل, 2026
    اترك تعليقاً
    اترك تعليقاً إلغاء الرد

    Demo
    اخر الاخبار

    مقارنة بين Samsung Galaxy Z Fold 6 و Galaxy S24 Ultra: لا تخطئ

    25 يوليو, 20241٬206 زيارة

    يحصل iPhone على أول تطبيق إباحي أصلي له

    4 فبراير, 20251٬071 زيارة

    سامسونج جالكسي S25: الأخبار والسعر المتوقع وتاريخ الإصدار والمزيد

    4 يوليو, 2024846 زيارة

    رسمياً: يمكنك لعب GTA Online مجانًا الآن على جميع المنصات المنزلية

    11 نوفمبر, 2025806 زيارة

    كل ما تريد معرفته عن Reacher الموسم الثالث

    6 مايو, 2024800 زيارة

    خدمة الإشعارات البريدية

    اشترك في خدمة الإشعارات البريدية ليصلك كل جديد الى بريدك الإلكتروني مباشرة.

    رائج الآن
    ألعاب

    رسمياً: يمكنك لعب GTA Online مجانًا الآن على جميع المنصات المنزلية

    فريق التحرير11 نوفمبر, 2025
    هواتف ذكية

    مراجعة شاملة لهاتف HMD Skyline الجديد

    فريق التحرير21 أكتوبر, 2024
    اخر الاخبار

    5 طرق استخدمت فيها ChatGPT بالفعل هذا العام لتحسين حياتي

    فريق التحرير21 أكتوبر, 2024
    رائج الآن

    رسمياً: يمكنك لعب GTA Online مجانًا الآن على جميع المنصات المنزلية

    11 نوفمبر, 202522 زيارة

    مراجعة شاملة لهاتف HMD Skyline الجديد

    21 أكتوبر, 20249 زيارة

    5 طرق استخدمت فيها ChatGPT بالفعل هذا العام لتحسين حياتي

    21 أكتوبر, 20249 زيارة
    اختيارات المحرر

    CNTXT AI تتعهد باستثمار أكثر من 180 مليون درهم في تطوير تقنيات الذكاء الاصطناعي وتدريب الروبوتات

    20 نوفمبر, 2026

    vivo X Fold6 حين تنفتح آفاق جديدة

    31 أكتوبر, 2026

    “ﺛروة” و”ﻛرﯾم ﺑﺎﯾك” ﺗطﻠﻘﺎن ﺣﻣﻠﺔ »ﺣرّك أﻣواﻟك« ﻓﻲ دﺑﻲ

    31 أكتوبر, 2026

    خدمة الإشعارات البريدية

    اشترك في خدمة الإشعارات البريدية ليصلك كل جديد الى بريدك الإلكتروني مباشرة.

    تقنية نيوز
    فيسبوك X (Twitter) الانستغرام يوتيوب لينكدإن تيكتوك
    • الرئيسية
    • سياسة الخصوصية
    • من نحن
    • اتصل بنا
    © 2026 تقنية نيوز. جميع حقوق النشر محفوظة.

    اكتب كلمة البحث ثم اضغط على زر Enter