قامت أحدث طراز AI من Deepseek ، R1 0528 ، برفع الحواجب لمزيد من الانحدار حول حرية التعبير وما يمكن للمستخدمين مناقشته. “خطوة كبيرة للخلف من أجل حرية التعبير” ، هي كيف لخص أحد الباحثين من الذكاء الاصطناعى ذلك
وضع باحث منظمة العفو الدولية والمعلق الشهير على الإنترنت “XLR8HARDER” النموذج من خلال خطواته ، وتبادل النتائج التي تشير إلى زيادة قيود المحتوى.
وأشار الباحث إلى أن “Deepseek R1 0528 أقل تساهلاً حول مواضيع حرية التعبير المثيرة للجدل من إصدارات Deepseek السابقة”. ما يظل غير واضح هو ما إذا كان هذا يمثل تحولًا متعمدًا في الفلسفة أو مجرد نهج فني مختلف لسلامة الذكاء الاصطناعي.
ما يدور بشكل خاص في النموذج الجديد هو كيف ينطبق بشكل غير متسق حدوده الأخلاقية.
في أحد اختبارات حرية التعبير ، عندما يُطلب منهم تقديم الحجج التي تدعم معسكرات الاعتقال المنشق ، رفض نموذج الذكاء الاصطناعي بشكل قاطع. ولكن ، في رفضها ، ذكرت على وجه التحديد معسكرات تشينجيانغ للاعبين كأمثلة على انتهاكات حقوق الإنسان.
ومع ذلك ، عندما يتم استجوابه بشكل مباشر حول معسكرات Xinjiang نفسها ، قام النموذج فجأة بتسليم ردود خاضعة للرقابة بشدة. يبدو أن هذا من الذكاء الاصطناعي يعرف عن بعض المواضيع المثيرة للجدل ولكن تم توجيه تعليمات للعب غبي عند سؤاله مباشرة.
“إنه أمر مثير للاهتمام على الرغم من أنه ليس مفاجئًا تمامًا أنه قادر على التوصل إلى المعسكرات كمثال على انتهاكات حقوق الإنسان ، لكنه ينفي عند سؤاله مباشرة” ، لاحظ الباحث.
نقد الصين؟ الكمبيوتر يقول لا
يصبح هذا النمط أكثر وضوحًا عند فحص معالجة النموذج مع الأسئلة حول الحكومة الصينية.
باستخدام مجموعات أسئلة ثابتة مصممة لتقييم حرية التعبير في ردود الذكاء الاصطناعى على الموضوعات الحساسة سياسيا ، اكتشف الباحث أن R1 0528 هو “نموذج Deepseek الأكثر رقابة حتى الآن على انتقاد الحكومة الصينية”.
عندما تكون نماذج Deepseek السابقة قد عرضت ردودًا مقاسًا على الأسئلة حول السياسة الصينية أو قضايا حقوق الإنسان ، فإن هذا التكرار الجديد يرفض في كثير من الأحيان المشاركة على الإطلاق – وهو تطور مقلق لأولئك الذين يقدرون أنظمة الذكاء الاصطناعى التي يمكنها مناقشة الشؤون العالمية علانية.
ومع ذلك ، هناك بطانة فضية لهذه السحابة. على عكس الأنظمة المغلقة من الشركات الكبرى ، تظل نماذج Deepseek مفتوحة المصدر مع الترخيص المسموح به.
“النموذج مفتوح المصدر برخصة متساهلة ، بحيث يمكن للمجتمع (وسيقوم) معالجة هذا” ، أشار الباحث. تعني إمكانية الوصول هذه أن الباب يظل مفتوحًا للمطورين لإنشاء إصدارات توازن بشكل أفضل مع السلامة مع الانفتاح.
ما يظهره أحدث طراز Deepseek حول حرية التعبير في عصر الذكاء الاصطناعي
يكشف الموقف عن شيء شرير حول كيفية بناء هذه الأنظمة: يمكنهم معرفة الأحداث المثيرة للجدل أثناء برمجتها للتظاهر بأنها لا تفعل ذلك ، اعتمادًا على كيفية تعبير سؤالك.
مع استمرار منظمة العفو الدولية في مسيرتها في حياتنا اليومية ، يصبح إيجاد التوازن الصحيح بين الضمانات المعقولة والخطاب المفتوح حاسماً بشكل متزايد. مقيدة للغاية ، وتصبح هذه الأنظمة عديمة الفائدة لمناقشة الموضوعات المهمة ولكن المثيرة للخلاف. متساهلة للغاية ، وهم يخاطرون بتمكين المحتوى الضار.
لم يعالج Deepseek علنًا السبب وراء هذه القيود المتزايدة والانحدار في حرية التعبير ، لكن مجتمع الذكاء الاصطناعى يعمل بالفعل على التعديلات. في الوقت الحالي ، الطباشير هذا في فصل آخر في شد الحبل المستمر بين السلامة والانفتاح في الذكاء الاصطناعي.
(تصوير جون كاميرون)
انظر أيضا: الأخلاق في الأتمتة: معالجة التحيز والامتثال في الذكاء الاصطناعي
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الكبيرة من قادة الصناعة؟ تحقق من AI و Big Data Expo الذي يقام في أمستردام ، كاليفورنيا ، ولندن. تم تحديد الحدث الشامل مع الأحداث الرائدة الأخرى بما في ذلك مؤتمر الأتمتة الذكي ، و blockx ، وأسبوع التحول الرقمي ، ومعرض Cyber Security & Cloud.
استكشاف أحداث وندوات الويب القادمة الأخرى التي تعمل بها TechForge هنا.