في أحدث “لقد أنشأنا Torment Nexus من رواية Sci-Fi الكلاسيكية لا تنشئ رابطة العذاب“الأخبار ، ذكرت صحيفة الجارديان أن حكومة المملكة المتحدة تقوم بتطوير خوارزمية تنبؤية تهدف إلى تحديد الأشخاص الذين من المرجح أن يرتكبوا جريمة قتل. ما الذي يمكن أن يحدث؟
وجد التقرير ، الذي يستشهد بالوثائق المكتسبة من خلال طلبات حرية المعلومات من قبل منظمة الشفافية ، Watch ، أن وزارة العدل قد تم تكليفها بتصميم نظام تنميط يمكن أن يوضح الأشخاص الذين يبدو أنهم قادرون على ارتكاب جرائم عنيفة خطيرة قبل أن يفعلوا ذلك بالفعل. إن مشروع التنبؤ بالقتل المزعوم (إعادة تسميته إلى “مشاركة البيانات لتحسين تقييم المخاطر” حتى لا ينفجر مثلما يكون الأمر صراحةً) يمتص بيانات ما بين 100000 و 500000 شخص في محاولة لتطوير نماذج يمكن أن تحدد “تنبؤات في بيانات مخاطر القتل”.
يتضمن المشروع بيانات من وزارة العدل (MOJ) ، وزارة الداخلية ، وشرطة مانشستر الكبرى (GMP) ، وشرطة متروبوليتان في لندن. يقال إن السجلات لا تقتصر على أولئك الذين لديهم سجلات جنائية ، ولكنهم يشملون أيضًا بيانات المشتبه بهم الذين لم يتم إدانتهم والضحايا والشهود والأشخاص المفقودين. وشملت أيضًا تفاصيل حول الصحة العقلية للشخص ، والإدمان ، والإيذاء الذاتي ، والانتحار ، والضعف ، والإعاقة-“علامات صحية” التي ادعى MOJ “من المتوقع أن تتمتع بسلطة تنبؤية كبيرة”. ذكرت صحيفة الجارديان أن المسؤولين الحكوميين نفىوا استخدام بيانات الضحايا أو السكان الضعفاء ، وأصروا على أن البيانات من الأشخاص الذين لديهم إدانة جنائية واحدة على الأقل تم استخدامها.
لا يستغرق الأمر الكثير لمعرفة مدى سوء الفكرة ، وما هي النتيجة النهائية المحتملة: الاستهداف غير المهمل للأشخاص ذوي الدخل المنخفض والمهمشين. ولكن في حال لم يكن ذلك واضحًا ، عليك فقط النظر إلى أدوات العدالة التنبؤية السابقة التي طرحتها وزارة العدل في المملكة المتحدة والنتائج التي أنتجتها.
على سبيل المثال ، يتم استخدام نظام تقييم الجاني في الحكومة من قبل النظام القانوني “للتنبؤ” إذا كان من المحتمل أن يعيد شخص ما ، ويتم استخدام هذا التنبؤ من قبل القضاة في قرارات إصدار الأحكام. وجدت مراجعة حكومية للنظام أنه من بين جميع المجرمين ، كانت إعادة الإعادة الفعلية أقل بكثير من المعدل المتوقع ، خاصة بالنسبة للجرائم غير العنيفة. ولكن ، كما قد تتخيل ، قامت الخوارزمية بتقييم الجناة السود بشكل أقل دقة من الجناة البيض.
هذه ليست مجرد مشكلة بريطانيا ، بالطبع. أدوات الشرطة التنبؤية هذه تسيطر على الناس بانتظام بغض النظر عن مكان تنفيذها ، مع المخاطر المرتبطة بالمجتمعات المهمشة المنحرفة-نتيجة التحيزات العنصرية الموجودة في البيانات نفسها التي تنبع من الإفراط في المجتمعات التاريخية للمجتمعات الملونة والمجتمعات المنخفضة الدخل التي تؤدي إلى المزيد من التفاعلات في الشرطة ، ومعدلات المساءات الأعلى ، وصرف الحوض. يتم خبز هذه النتائج في البيانات ، والتي تتفاقم بعد ذلك من خلال المعالجة الخوارزمية لتلك المعلومات وتعزز السلوكيات التي تؤدي إلى نتائج غير مستوية.
على أي حال ، تمامًا كتذكير: لم يكن من المفترض أن نحتضن الطبيعة التنبؤية للسباق في تقرير الأقلية– من المفترض أن نكون متشككين منهم.