مع تعتمد الشركات أكثر على الأنظمة الآلية ، أصبحت الأخلاق مصدر قلق رئيسي. تتشكل الخوارزميات بشكل متزايد القرارات التي اتخذتها الأشخاص سابقًا ، وهذه الأنظمة لها تأثير على الوظائف والائتمان والرعاية الصحية والنتائج القانونية. هذه السلطة تتطلب المسؤولية. بدون قواعد واضحة والمعايير الأخلاقية ، يمكن أن تعزز الأتمتة الظلم وتسبب الضرر.
يؤثر تجاهل الأخلاق على الأشخاص الحقيقيين بطرق حقيقية ، وليس فقط تغيير درجات ثقة الجمهور. يمكن أن تنكر الأنظمة المتحيزة القروض أو الوظائف أو الرعاية الصحية ، ويمكن أن تزيد الأتمتة من سرعة القرارات السيئة إذا لم تكن هناك درابزين في مكانها. عندما تقوم الأنظمة بإجراء المكالمة الخاطئة ، فغالبًا ما يكون من الصعب جذبها أو حتى فهم السبب ، وعدم وجود شفافية يحول أخطاء صغيرة إلى مشكلات أكبر.
فهم التحيز في أنظمة الذكاء الاصطناعي
غالبًا ما يأتي التحيز في الأتمتة من البيانات. إذا كانت البيانات التاريخية تتضمن التمييز ، فقد تكرر الأنظمة التي تم تدريبها على هذه الأنماط. على سبيل المثال ، قد ترفض أداة AI المستخدمة لفحص المتقدمين للوظائف المرشحين بناءً على الجنس أو العرق أو العمر إذا كانت بيانات التدريب الخاصة بها تعكس تلك التحيزات السابقة. يدخل التحيز أيضًا من خلال التصميم ، حيث يمكن للخيارات حول ما يجب قياسه ، والتي تُعد نتائج لصالحها ، وكيفية تسمية البيانات يمكن أن تخلق نتائج منحرفة.
هناك أنواع كثيرة من التحيز. يحدث انحياز أخذ العينات عندما لا تمثل مجموعة البيانات جميع المجموعات ، في حين أن تحيز العلامات يمكن أن يأتي من المدخلات البشرية الذاتية. حتى الخيارات الفنية مثل أهداف التحسين أو نوع الخوارزمية يمكن أن تشوه النتائج.
القضايا ليست نظرية فقط. أسقطت Amazon استخدامها لأداة التوظيف في عام 2018 بعد أن فضلت المرشحين الذكور ، وقد تم العثور على بعض أنظمة التعرف على الوجه لتحديد الأشخاص ذوي الألوان بمعدلات أعلى من القوقازيين. مثل هذه المشكلات تضر بالثقة وتثير المخاوف القانونية والاجتماعية.
مصدر قلق حقيقي آخر هو تحيز الوكيل. حتى عندما لا يتم استخدام السمات المحمية مثل العرق مباشرة ، يمكن أن تكون ميزات أخرى مثل الرمز البريدي أو مستوى التعليم بمثابة قائمة بذاتها ، مما يعني أن النظام قد لا يزال يميز حتى لو كان المدخلات محايدة ، على سبيل المثال على أساس مناطق أكثر ثراءً أو أكثر فقراً. من الصعب اكتشاف تحيز الوكيل دون اختبار دقيق. إن ارتفاع حوادث التحيز من الذكاء الاصطناعي هو علامة على أن هناك حاجة إلى مزيد من الاهتمام في تصميم النظام.
تلبية المعايير المهمة
القوانين اللحاق بالركب. يصنف قانون الذكاء الاصطناعي للاتحاد الأوروبي ، الذي تم تمريره في عام 2024 ، أنظمة الذكاء الاصطناعي بالمخاطر. يجب أن تلبي الأنظمة عالية الخطورة ، مثل تلك المستخدمة في التوظيف أو تسجيل الائتمان ، متطلبات صارمة ، بما في ذلك الشفافية والرقابة البشرية والتحيز. في الولايات المتحدة ، لا يوجد قانون واحد منظمة العفو الدولية ، لكن المنظمين نشطون. تحذر لجنة تكافؤ فرص العمل (EEOC) أصحاب العمل من مخاطر أدوات التوظيف التي تحركها الذكاء الاصطناعي ، كما أشارت لجنة التجارة الفيدرالية (FTC) أيضًا إلى أن الأنظمة المتحيزة قد تنتهك قوانين مكافحة التمييز.
أصدر البيت الأبيض مخططًا لشغل منظمة العفو الدولية لحقوق الذكاء الاصطناعى ، يقدم إرشادات حول الاستخدام الآمن والأخلاقي. على الرغم من أنه ليس قانونًا ، فإنه يحدد التوقعات ، ويغطي خمسة مجالات رئيسية: أنظمة آمنة ، وحماية التمييز في الخوارزمية ، وخصوصية البيانات ، والإشعار والتفسير ، والبدائل البشرية.
يجب أن تشاهد الشركات قوانين الولايات المتحدة الأمريكية. انتقلت كاليفورنيا لتنظيم اتخاذ القرارات الخوارزمية ، وتطلب إلينوي من الشركات إخبار المتقدمين في الوظائف إذا تم استخدام الذكاء الاصطناعي في مقابلات الفيديو. الفشل في الامتثال يمكن أن يجلب الغرامات والدعاوى القضائية.
يتطلب المنظمون في مدينة نيويورك الآن عمليات تدقيق لأنظمة الذكاء الاصطناعى المستخدمة في التوظيف. يجب أن تُظهر عمليات التدقيق ما إذا كان النظام يعطي نتائج عادلة في مجموعات الجنس والسباق ، ويجب على أرباب العمل أيضًا إخطار المتقدمين عند استخدام الأتمتة.
الامتثال أكثر من مجرد تجنب العقوبات – إنه يتعلق أيضًا بإقامة الثقة. الشركات التي يمكن أن تظهر أن أنظمتها عادلة ومساءلة من المرجح أن تفوز بالدعم من المستخدمين والمنظمين.
كيفية بناء أنظمة أكثر عدلاً
الأخلاق في الأتمتة لا تحدث عن طريق الصدفة. يتطلب التخطيط والأدوات الصحيحة والاهتمام المستمر. يجب أن يكون التحيز والإنصاف مدمج في العملية منذ البداية ، ولم يتم تثبيته لاحقًا. يستلزم ذلك تحديد الأهداف ، واختيار البيانات الصحيحة ، بما في ذلك الأصوات الصحيحة في الجدول.
يعني القيام بذلك بشكل جيد اتباع بعض الاستراتيجيات الرئيسية:
إجراء تقييمات التحيز
الخطوة الأولى في التغلب على التحيز هي العثور عليها. يجب إجراء تقييمات التحيز مبكرًا وفي كثير من الأحيان ، من التطوير إلى النشر ، لضمان عدم أن الأنظمة لا تنتج نتائج غير عادلة. قد تتضمن المقاييس معدلات الخطأ في المجموعات أو القرارات التي لها تأثير أكبر على مجموعة واحدة من غيرها.
يجب إجراء عمليات تدقيق التحيز من قبل أطراف ثالثة عند الإمكان. يمكن أن تفوت المراجعات الداخلية القضايا الرئيسية أو تفتقر إلى الاستقلال ، والشفافية في عمليات التدقيق الموضوعية تبني ثقة عامة.
تنفيذ مجموعات بيانات متنوعة
تساعد بيانات التدريب المتنوعة على تقليل التحيز من خلال تضمين عينات من جميع مجموعات المستخدمين ، وخاصة تلك المستبعدة. سيعمل مساعد صوتي مدرب في الغالب على أصوات الذكور بشكل سيء بالنسبة للنساء ، ونموذج تسجيل الائتمان الذي يفتقر إلى البيانات المتعلقة بالمستخدمين ذوي الدخل المنخفض قد يسيطر عليها.
يساعد تنوع البيانات أيضًا النماذج على التكيف مع الاستخدام الحقيقي. يأتي المستخدمون من خلفيات مختلفة ، ويجب أن تعكس الأنظمة ذلك. التنوع الجغرافي والثقافي واللغوي كل ما يهم.
البيانات المتنوعة لا تكفي من تلقاء نفسها-يجب أن تكون دقيقة ومسمى جيدًا. لا تزال القمامة في القمامة ، لذا تحتاج الفرق إلى التحقق من الأخطاء والفجوات ، وتصحيحها.
تعزيز الشمولية في التصميم
التصميم الشامل ينطوي على الأشخاص المتضررين. يجب على المطورين التشاور مع المستخدمين ، وخاصة أولئك المعرضين لخطر الأذى (أو أولئك الذين قد يتسببون ، من خلال استخدام الذكاء الاصطناعى المتحيزة ، إلى الضرر) ، لأن هذا يساعد في اكتشاف البقع العمياء. قد يعني ذلك إشراك مجموعات الدعوة أو خبراء الحقوق المدنية أو المجتمعات المحلية في مراجعات المنتجات. وهذا يعني الاستماع قبل أن تسير على الهواء مباشرة ، وليس بعد الشكاوى.
التصميم الشامل يعني أيضًا فرقًا متعددة التخصصات. يمكن أن يؤدي جلب أصوات من الأخلاقيات والقانون والعلوم الاجتماعية إلى تحسين عملية صنع القرار ، حيث من المرجح أن تطرح هذه الفرق أسئلة مختلفة ومخاطر موضعية.
يجب أن تكون الفرق متنوعة أيضًا. الأشخاص الذين يعانون من تجارب حيات مختلفة يكتشفون قضايا مختلفة ، وقد يتغاضى النظام الذي تم بناؤه من قبل مجموعة متجانسة إلى المخاطر التي يلتقطها الآخرون.
ما تفعله الشركات بشكل صحيح
تتخذ بعض الشركات والوكالات خطوات لمعالجة تحيز الذكاء الاصطناعي وتحسين الامتثال.
بين عامي 2005 و 2019 ، اتهمت إدارة الضرائب والجمارك الهولندية بشكل خاطئ حوالي 26000 أسرة بمزايا رعاية الأطفال. خوارزمية تستخدم في نظام الكشف عن الاحتيال المستهدفة بشكل غير متناسب مع جنسيات مزدوجة ودخل منخفض. أدت التداعيات إلى احتجاج عام واستقالة الحكومة الهولندية في عام 2021.
واجهت LinkedIn التدقيق على التحيز بين الجنسين في خوارزميات التوصية الوظيفية. وجدت الأبحاث من معهد ماساتشوستس للتكنولوجيا وغيرها من المصادر أن الرجال كانوا أكثر عرضة للمطابقة مع أدوار قيادية ذات أجر أعلى ، ويرجع ذلك جزئيًا إلى أنماط سلوكية في كيفية تطبيق المستخدمين للوظائف. رداً على ذلك ، قام LinkedIn بتنفيذ نظام الذكاء الاصطناعي الثانوي لضمان مجموعة أكثر تمثيلا من المرشحين.
مثال آخر هو قانون أداة قرار التوظيف الآلية لمدينة نيويورك (AEDT) ، والذي دخل حيز التنفيذ في 1 يناير 2023 ، مع إنفاذ التطبيق في 5 يوليو 2023. ويتطلب القانون أصحاب العمل ووكالات التوظيف باستخدام الأدوات الآلية للتوظيف أو الترويج على أقل من 10 أيام العمل في أي وقت مضى. شفافة وعادلة.
أطلقت Aetna ، وهي شركة تأمين صحي ، مراجعة داخلية لخوارزميات موافقة المطالبة الخاصة بها ، ووجدت أن بعض النماذج أدت إلى تأخير أطول للمرضى ذوي الدخل المنخفض. غيرت الشركة كيف تم وزن البيانات وأضفت المزيد من الرقابة لتقليل هذه الفجوة.
تُظهر الأمثلة أنه يمكن معالجة تحيز الذكاء الاصطناعي ، لكن الأمر يتطلب الجهد والأهداف الواضحة والمساءلة القوية.
حيث نذهب من هنا
الأتمتة موجودة هنا للبقاء ، لكن الثقة في الأنظمة تعتمد على عدالة النتائج والقواعد الواضحة. يمكن أن يسبب التحيز في أنظمة الذكاء الاصطناعي ضررًا ومخاطر قانونية ، والامتثال ليس مربعًا للتحقق – إنه جزء من القيام بالأشياء بشكل صحيح.
الأتمتة الأخلاقية تبدأ بالوعي. يستغرق بيانات قوية واختبار منتظم وتصميم شامل. يمكن أن تساعد القوانين ، لكن التغيير الحقيقي يعتمد أيضًا على ثقافة الشركة وقيادتها.
(صورة من بيكسياباي)
انظر أيضًا: لماذا يعد الشرق الأوسط مكانًا ساخنًا للاستثمارات التكنولوجية العالمية
هل تريد معرفة المزيد عن الذكاء الاصطناعي والبيانات الكبيرة من قادة الصناعة؟ تحقق من AI و Big Data Expo الذي يقام في أمستردام ، كاليفورنيا ، ولندن. تم تحديد الحدث الشامل مع الأحداث الرائدة الأخرى بما في ذلك مؤتمر الأتمتة الذكي ، و blockx ، وأسبوع التحول الرقمي ، ومعرض Cyber Security & Cloud.
استكشاف أحداث وندوات الويب القادمة الأخرى التي تعمل بها TechForge هنا.