وقد أشارت منظمة أنثروبيك إلى المخاطر المحتملة لأنظمة الذكاء الاصطناعي، ودعت إلى تنظيم جيد التنظيم لتجنب الكوارث المحتملة. وترى المنظمة أن التنظيم المستهدف ضروري للاستفادة من فوائد الذكاء الاصطناعي مع التخفيف من مخاطره.
ومع تطور أنظمة الذكاء الاصطناعي في قدرات مثل الرياضيات والاستدلال والترميز، فإن احتمال إساءة استخدامها في مجالات مثل الأمن السيبراني أو حتى التخصصات البيولوجية والكيميائية يتزايد بشكل كبير.
وتحذر أنثروبيك من أن الأشهر الثمانية عشر المقبلة ستكون حاسمة بالنسبة لصانعي السياسات للتحرك، حيث أن نافذة الوقاية الاستباقية آخذة في التضييق. ومن الجدير بالذكر أن فريق Frontier Red التابع لـ Anthropic يسلط الضوء على كيف يمكن للنماذج الحالية أن تساهم بالفعل في العديد من المهام المتعلقة بالجرائم السيبرانية ويتوقع أن تكون النماذج المستقبلية أكثر فعالية.
ومما يثير القلق بشكل خاص احتمال أن تؤدي أنظمة الذكاء الاصطناعي إلى تفاقم سوء استخدام المواد الكيميائية والبيولوجية والإشعاعية والنووية. وجد معهد سلامة الذكاء الاصطناعي في المملكة المتحدة أن العديد من نماذج الذكاء الاصطناعي يمكنها الآن مضاهاة الخبرة البشرية على مستوى الدكتوراه في تقديم الإجابات على الاستفسارات المتعلقة بالعلم.
وفي معالجة هذه المخاطر، قامت Anthropic بتفصيل سياسة التوسع المسؤول (RSP) التي تم إصدارها في سبتمبر 2023 كإجراء مضاد قوي. يفرض RSP زيادة في تدابير السلامة والأمن التي تتوافق مع تطور قدرات الذكاء الاصطناعي.
تم تصميم إطار عمل RSP ليكون قابلاً للتكيف ومتكررًا، مع تقييمات منتظمة لنماذج الذكاء الاصطناعي مما يسمح بتحسين بروتوكولات السلامة في الوقت المناسب. تقول Anthropic إنها ملتزمة بالحفاظ على السلامة وتعزيزها عبر توسعات الفريق المختلفة، لا سيما في قطاعات الأمن وقابلية التفسير والثقة، مما يضمن الاستعداد لمعايير السلامة الصارمة التي وضعها مزود خدمة الدعم الخاص بها.
تعتقد أنثروبيك أن اعتماد مقدمي الخدمات الإقليميين على نطاق واسع عبر صناعة الذكاء الاصطناعي، على الرغم من كونه طوعيًا في المقام الأول، يعد أمرًا ضروريًا لمعالجة مخاطر الذكاء الاصطناعي.
إن التنظيم الشفاف والفعال أمر بالغ الأهمية لطمأنة المجتمع بشأن التزام شركات الذكاء الاصطناعي بوعود السلامة. ومع ذلك، يجب أن تكون الأطر التنظيمية استراتيجية، وتحفز ممارسات السلامة السليمة دون فرض أعباء غير ضرورية.
تتصور أنثروبيك لوائح تنظيمية واضحة ومركزة ومتكيفة مع المشهد التكنولوجي المتطور، بحجة أن هذه العناصر حيوية في تحقيق التوازن بين تخفيف المخاطر وتعزيز الابتكار.
في الولايات المتحدة، تشير منظمة أنثروبيك إلى أن التشريع الفيدرالي يمكن أن يكون الحل النهائي لتنظيم مخاطر الذكاء الاصطناعي – على الرغم من أن المبادرات التي تقودها الدولة قد تحتاج إلى التدخل إذا تأخرت الإجراءات الفيدرالية. وينبغي للأطر التشريعية التي طورتها البلدان في جميع أنحاء العالم أن تسمح بالتوحيد القياسي والاعتراف المتبادل لدعم أجندة سلامة الذكاء الاصطناعي العالمية، مما يقلل من تكلفة الالتزام التنظيمي عبر المناطق المختلفة.
علاوة على ذلك، تتناول مجلة أنثروبيك الشكوك المتعلقة بفرض اللوائح التنظيمية – حيث تسلط الضوء على أن اللوائح التنظيمية المفرطة في التركيز على حالة الاستخدام ستكون غير فعالة بالنسبة لأنظمة الذكاء الاصطناعي العامة، التي لها تطبيقات متنوعة. وبدلا من ذلك، يجب أن تستهدف القواعد التنظيمية الخصائص الأساسية وتدابير السلامة لنماذج الذكاء الاصطناعي.
أثناء تغطية المخاطر الواسعة، تعترف Anthropic بأن بعض التهديدات المباشرة – مثل التزييف العميق – ليست محور مقترحاتها الحالية نظرًا لأن المبادرات الأخرى تعالج هذه القضايا على المدى القريب.
وفي نهاية المطاف، تؤكد الأنثروبيك على أهمية وضع القواعد التنظيمية التي تحفز الابتكار بدلا من خنقه. وعلى الرغم من أن عبء الامتثال الأولي لا مفر منه، إلا أنه يمكن تقليله إلى الحد الأدنى من خلال اختبارات السلامة المرنة والمصممة بعناية. بل إن التنظيم السليم من الممكن أن يساعد في حماية المصالح الوطنية وإبداع القطاع الخاص من خلال تأمين الملكية الفكرية ضد التهديدات الداخلية والخارجية.
ومن خلال التركيز على المخاطر التي تم قياسها تجريبيا، تخطط الأنثروبيك لمشهد تنظيمي لا يتحيز ضد النماذج مفتوحة أو مغلقة المصدر ولا يفضلها. ويظل الهدف واضحا: إدارة المخاطر الكبيرة لنماذج الذكاء الاصطناعي الرائدة من خلال تنظيم صارم وقابل للتكيف.
(حقوق الصورة: الأنثروبي)
أنظر أيضا: أصدر الرئيس بايدن أول مذكرة للأمن القومي بشأن الذكاء الاصطناعي
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الضخمة من قادة الصناعة؟ اطلع على معرض الذكاء الاصطناعي والبيانات الضخمة الذي يقام في أمستردام وكاليفورنيا ولندن. ويقام هذا الحدث الشامل في موقع مشترك مع أحداث رائدة أخرى بما في ذلك مؤتمر الأتمتة الذكية، وBlockX، وأسبوع التحول الرقمي، ومعرض الأمن السيبراني والسحابي.
استكشف الأحداث والندوات عبر الإنترنت القادمة الأخرى المتعلقة بتكنولوجيا المؤسسات والمدعومة من TechForge هنا.