المخاطر المتزايدة للذكاء الاصطناعي: هل تسبق الشركات بروتوكولات السلامة؟
تزايد الاعتماد على الذكاء الاصطناعي بوتيرة متسارعة في مختلف القطاعات، لكن تقريرًا حديثًا صادرًا عن شركة ديلويت يثير ناقوس الخطر بشأن عدم مواكبة بروتوكولات السلامة والضمانات هذا التطور. التقرير يحذر من أن الشركات تنشر أنظمة الذكاء الاصطناعي، وخاصةً ما يُعرف بالوكلاء الأذكياء، أسرع بكثير من قدرتها على إدارة المخاطر المترتبة على ذلك، مما يؤدي إلى مخاوف جدية بشأن أمن البيانات وخصوصيتها والمساءلة. هذا التوسع السريع يهدد بتقويض الثقة في هذه التكنولوجيا الواعدة، ويطرح تحديات كبيرة أمام المؤسسات.
وكلاء الذكاء الاصطناعي: انتشار سريع وتحديات أمنية
وفقًا لمسح ديلويت، فإن أنظمة الوكلاء الأذكياء تنتقل من مرحلة الاختبار والتجربة إلى التطبيق الفعلي في الإنتاج بسرعة غير مسبوقة. هذا التحول السريع يضع ضغوطًا هائلة على ضوابط المخاطر التقليدية، والتي صُممت أساسًا للتعامل مع العمليات التي تعتمد بشكل كبير على التدخل البشري. هذه الضوابط التقليدية غالبًا ما تكون غير كافية لمواجهة التحديات الفريدة التي تطرحها الأنظمة المستقلة التي تعمل بالذكاء الاصطناعي.
البيانات تشير إلى أن 21% فقط من المؤسسات قد طبقت حاليًا حوكمة ورقابة صارمة على وكلاء الذكاء الاصطناعي، على الرغم من ارتفاع معدلات الاعتماد. والأكثر إثارة للقلق هو التوقع بارتفاع نسبة استخدام هذه الأنظمة إلى 74% خلال العامين المقبلين، بينما ستنخفض نسبة الشركات التي لم تعتمدها بعد إلى 5% فقط. هذا يعني أن معظم الشركات ستجري عملية نشر مكثفة دون امتلاك البنية التحتية الأمنية الكافية.
سوء الإدارة هو التهديد الحقيقي
لا ترى ديلويت أن المشكلة تكمن في الذكاء الاصطناعي نفسه، بل في سوء إدارته. تؤكد الشركة أن المخاطر الحقيقية ليست متأصلة في التكنولوجيا، بل تنبع من السياق الخاطئ وضعف الإدارة. عندما تعمل الوكلاء الأذكياء ككيانات مستقلة بحكم الأمر الواقع، يصبح من السهل إخفاء قراراتهم وأفعالهم، مما يجعل من الصعب مساءلتهم أو تتبع مسار عملهم.
بدون إدارة قوية، يصبح من الصعب التحكم في هذه الأنظمة، ويكاد يكون من المستحيل التأمين ضد الأخطاء المحتملة. هذا التعقيد يتطلب نهجًا جديدًا للحوكمة والمراقبة، بالإضافة إلى استثمارات كبيرة في أمن البيانات والأنظمة.
الاستقلالية المحكومة: الحل الأمثل
يرى علي الصرافي، الرئيس التنفيذي ومؤسس شركة كوفانت، أن الحل يكمن في ما يسميه “الاستقلالية المحكومة”. يقول الصرافي أن الوكلاء الأذكياء المصممين بشكل جيد، والذين يتمتعون بحدود وسياسات وتعريفات واضحة، يمكن إدارتهم بنفس الطريقة التي تُدار بها أي مؤسسة أخرى.
“يمكن لأي وكيل أن يتحرك بسرعة في العمل منخفض المخاطر داخل حواجز حماية واضحة، ولكنه يتصاعد إلى البشر عندما تتجاوز الإجراءات حدود المخاطر المحددة.” يوضح الصرافي.
ويضيف: “بفضل سجلات الإجراءات التفصيلية، وإمكانية المراقبة، والمراقبة البشرية للقرارات عالية التأثير، يتوقف الوكلاء عن كونهم ‘روبوتات غامضة’ ويصبحون أنظمة يمكنك فحصها ومراجعتها والثقة بها”. وهذا يضمن الشفافية والمساءلة، وهما عنصران حيويان في أي نظام آمن.
أهمية حواجز الحماية القوية لوكلاء الذكاء الاصطناعي
على الرغم من أن وكلاء الذكاء الاصطناعي قد يقدمون أداءً ممتازًا في العروض التوضيحية الخاضعة للرقابة، إلا أنهم غالبًا ما يواجهون صعوبات في بيئات العمل الحقيقية. تتميز هذه البيئات بالتعقيد والتجزئة وعدم اتساق البيانات، مما يزيد من احتمالية حدوث أخطاء أو سلوكيات غير متوقعة.
يشير الصرافي إلى أن الوكلاء قد يصبحون “عرضة للهلوسة والسلوك غير المتوقع” عندما يتعرضون للكثير من المعلومات أو النطاق في وقت واحد. لذلك، فإن تقسيم العمليات إلى مهام أصغر وأكثر تركيزًا لكل وكيل يعتبر أمرًا بالغ الأهمية لضمان سلوك يمكن التنبؤ به والتحكم فيه.
المساءلة والتأمين على أنظمة الذكاء الاصطناعي
مع تزايد قدرة الوكلاء على اتخاذ إجراءات حقيقية في أنظمة الأعمال، مثل الاحتفاظ بسجلات تفصيلية للإجراءات، تتغير مفاهيم المخاطر والامتثال. إن تسجيل كل إجراء يسمح بتقييم أنشطة الوكلاء بشكل واضح وموضوعي، مما يسهل على المؤسسات فحص الإجراءات وتحديد المشكلات المحتملة.
هذه الشفافية ذات أهمية خاصة لشركات التأمين، التي كانت مترددة في تغطية أنظمة الذكاء الاصطناعي غير الواضحة. فمن خلال توفير مستوى عال من التفاصيل حول كيفية عمل الوكلاء والضوابط المعمول بها، يمكن لشركات التأمين تقييم المخاطر بشكل أكثر دقة وتقديم خدمات التأمين المناسبة.
معايير AAIF والخطوات المستقبلية
تعتبر المعايير المشتركة، مثل تلك التي تطورها مؤسسة Agentic AI Foundation (AAIF)، خطوة أولى مهمة نحو دمج أنظمة الوكلاء المختلفة. ومع ذلك، يرى الصرافي أن جهود التقييس الحالية تركز على الجوانب الأكثر بساطة في البناء، ولا تعالج بالكامل الاحتياجات المعقدة للمؤسسات الكبيرة لتشغيل أنظمة الوكلاء بأمان.
ويؤكد على ضرورة وجود معايير تدعم التحكم في العمليات، بما في ذلك “أذونات الوصول، وسير عمل الموافقة على الإجراءات عالية التأثير، والسجلات القابلة للتدقيق وإمكانية المراقبة”. هذه المعايير ستتيح للفرق مراقبة السلوك، والتحقيق في الحوادث، وإثبات الامتثال.
الهوية والأذونات: خط الدفاع الأول
إن تحديد ما يمكن لوكلاء الذكاء الاصطناعي الوصول إليه والإجراءات التي يمكنهم تنفيذها يعتبر أمرًا ضروريًا لضمان السلامة في بيئات العمل الحقيقية. ويحذر الصرافي من أن “منح الوكلاء امتيازات واسعة أو الكثير من السياق يمكن أن يؤدي إلى سلوكيات غير متوقعة ومخاطر أمنية أو امتثالية”.
الرؤية والمراقبة المستمرة ضروريان للحفاظ على عمل الوكلاء ضمن الحدود المحددة. عندها فقط يمكن لأصحاب المصلحة أن يثقوا في اعتماد هذه التكنولوجيا. إن تسجيل كل إجراء وإدارته يتيح للفرق فهم ما حدث وتحديد المشكلات الرئيسية ومعالجة الأسباب التي أدت إلى وقوعها.
استراتيجية ديلويت للحوكمة الآمنة
تعتمد استراتيجية ديلويت للحوكمة الآمنة على تحديد حدود واضحة للقرارات التي يمكن أن تتخذها الأنظمة الوكيلة. وتقترح ديلويت نموذجًا للاستقلالية المتدرجة، يبدأ بمنح الوكلاء صلاحية عرض المعلومات أو تقديم الاقتراحات فقط. بعد ذلك، يمكن السماح لهم باتخاذ إجراءات محدودة بموافقة الإنسان. وبمجرد إثبات موثوقيتهم في المناطق منخفضة المخاطر، يمكن السماح لهم بالتصرف تلقائيًا.
بالإضافة إلى ذلك، تقترح ديلويت “مخططات الذكاء الاصطناعي السيبراني” التي تشتمل على طبقات الحوكمة والسياسات وخرائط طريق القدرة على الامتثال في الضوابط التنظيمية. تعتبر هذه الهياكل ضرورية لضمان الاستخدام الآمن للذكاء الاصطناعي.
تدريب القوى العاملة: عنصر أساسي في الحوكمة
لا تقتصر الحوكمة الآمنة على الجوانب التقنية فقط، بل تشمل أيضًا تدريب القوى العاملة. توصي ديلويت بتدريب الموظفين على ماهية المعلومات التي يجب عدم مشاركتها مع أنظمة الذكاء الاصطناعي، والإجراءات التي يجب اتخاذها في حالة خروج الوكلاء عن المسار الصحيح، وكيفية اكتشاف السلوك غير العادي الذي قد يكون خطيرًا.
إن فهم الموظفين لكيفية عمل أنظمة الذكاء الاصطناعي والمخاطر المحتملة المرتبطة بها أمر بالغ الأهمية لضمان فعالية الضوابط الأمنية. فالتدريب المناسب يمكن أن يقلل من الأخطاء البشرية ويحسن الاستجابة للحوادث الأمنية.
باختصار، النجاح في نشر واستخدام أنظمة الذكاء الاصطناعي يتطلب حوكمة قوية، وضوابط صارمة، وتدريبًا شاملاً للقوى العاملة. الشركات التي تستثمر في هذه الجوانب ستكون قادرة على الاستفادة من إمكانات هذه التكنولوجيا مع تقليل المخاطر المحتملة.