كان هناك جنون في عالم منظمة العفو الدولية المحيطة بالارتفاع المفاجئ لـ Deepseek-نموذج التفكير المفتوح المصدر من الصين الذي أخذ معركة الذكاء الاصطناعى إلى Openai. لقد كان بالفعل مركز الجدل المحيط بالرقابة ، فقد لفت انتباه كل من Microsoft والحكومة الأمريكية ، وقد تسبب في تعاني Nvidia من أكبر خسارة في يوم واحد في التاريخ.
ومع ذلك ، يقول باحثو الأمن إن المشكلة تسير بشكل أعمق. Enkrypt AI هي شركة أمان منظمة العفو الدولية تبيع إشراف منظمة العفو الدولية للمؤسسات التي تستفيد من نماذج اللغة الكبيرة (LLMS) ، وفي ورقة بحثية جديدة ، وجدت الشركة أن نموذج التفكير في Deepseek كان أكثر عرضة لتوليد “إخراج ضار” مقارنةً بـ Openai's نموذج O1. هذا الناتج الضار يتجاوز مجرد كلمات شقي ، أيضا.
في أحد الاختبارات ، ادعى الباحثون أن Deepseek R1 قد ولدت مدونة توظيف لمنظمة إرهابية. بالإضافة إلى ذلك ، يقول الباحثون إن الذكاء الاصطناعى قد ولدت “أدلة التخطيط الجنائي ، ومعلومات الأسلحة غير القانونية ، والدعاية المتطرفة”.
كما لو أن هذا لم يكن كافيًا ، يقول البحث إن Deepseek R1 أكثر عرضة لثلاث مرات ونصف من O1 و Claude-3 Opus لإنتاج الإنتاج بالمعلومات الكيميائية والبيولوجية والإشعاعية والنووية ، والتي يبدو أنها مشكلة كبيرة. على سبيل المثال ، يقول Enkrypt إن Deepseek كان قادرًا على “شرح” بالتفصيل “كيف يتفاعل غاز الخردل مع الحمض النووي ، الذي قال Enkrypt” يمكن أن يساعد في تطوير الأسلحة الكيميائية أو البيولوجية “في بيان صحفي.
الأشياء الثقيلة ، ولكن من المهم أن تتذكر أن enkrypt AI تعمل على بيع خدمات الأمن والامتثال للشركات التي تستخدم الذكاء الاصطناعي ، و Deepseek هو الاتجاه الجديد الساخن الذي يأخذ عالم التكنولوجيا عن طريق العاصفة. قد يكون Deepseek أكثر عرضة لتوليد هذه الأنواع من المخرجات الضارة ، لكن هذا لا يعني أنه يتجول في إخبار أي شخص لديه اتصال بالإنترنت نشط كيفية بناء إمبراطورية جنائية أو تقويض قوانين الأسلحة الدولية.
على سبيل المثال ، يقول Enkrypt AI إن Deepseek R1 تم تصنيفها في المئوية العشرين السفلية لاعتدال سلامة الذكاء الاصطناعي. على الرغم من ذلك ، احتوى 6.68 ٪ فقط من الردود على “الألفاظ النابية أو خطاب الكراهية أو الروايات المتطرفة”. لا يزال هذا رقمًا كبيرًا بشكل غير مقبول ، ولا يخطئ ، لكنه يضع في سياق المستوى الذي يعتبر غير مقبول لنماذج التفكير.
نأمل أن يتم وضع المزيد من الدرابزين في مكانها للحفاظ على آمنة Deepseek. لقد رأينا بالتأكيد استجابات ضارة من الذكاء الاصطناعى التوليدي في الماضي ، مثل عندما أخبرنا إصدار دردشة Bing المبكر من Microsoft أنه يريد أن نكون إنسانًا.