فكر في سكان كولسدون بإنجلترا، الذين يقولون إنهم يتعرضون للاضطهاد الشديد من قبل اليد الثقيلة للرقابة الخوارزمية دون أي سبب سوى التهجئة التي تبدو غير ضارة لاسم مدينتهم.
وفقًا لمدونة الأخبار المحلية Inside Croydon، تمت إزالة محتوى أصحاب الأعمال وجمعيات الأحياء في المدينة من صفحاتهم على Facebook لأن خوارزميات الإشراف على محتوى النظام الأساسي تلتقط “LSD” في Coulsdon كإشارة إلى العقار المخدر.
وقالت المدونة، نقلاً عن مصادر محلية رفضت الكشف عن هويتها، إن صفحات المسارح المحلية ومتاجر الأجهزة ومجموعات التاريخ وجمعيات السكان تأثرت جميعًا بالرقابة وأن فيسبوك لم يحل المشكلة على الرغم من الشكاوى المتعددة.
وقال مصدر مجهول لـ Inside Croydon: “طالما أنه يحتوي على كلمة “Coulsdon” في العنوان، فستحصل على مرجع الدواء الذي لا يوجد طريقة للتغلب عليه”.
وفي بيان مقتضب، قال ديف أرنولد، المتحدث باسم الشركة الأم لفيسبوك، ميتا: “كان هذا خطأ تم إصلاحه الآن”.
لن تكون هذه هي المرة الأولى التي تحظر فيها مرشحات فيسبوك المنشورات التي تحتوي على مواد غير ضارة– أو ربما معلومات منقذة للحياة.
في عام 2021، اعتذر فيسبوك لبعض المستخدمين الإنجليز عن فرض رقابة وحظر على الأشخاص الذين نشروا حول Plymouth Hoe، وهو معلم بارز في مدينة بليموث الساحلية.
ذكرت صحيفة واشنطن بوست في وقت سابق من هذا العام أنه مع اندلاع حرائق الغابات عبر الساحل الغربي، قامت خوارزميات الشركة بمراقبة المنشورات حول الحرائق في مجموعات إدارة الطوارئ المحلية والسلامة من الحرائق. وفي عشرات الأمثلة التي وثقتها الصحيفة، وضع فيسبوك علامة على المنشورات على أنها بريد عشوائي “مضلل”.
وقد لاحظ مسؤولو مجموعة فيسبوك سابقًا أيضًا أنماطًا من المنشورات في مجتمعاتهم التي تحتوي على كلمة “رجال” التي تم تصنيفها على أنها خطاب كراهية، وفقًا لموقع Vice. أدت هذه الظاهرة إلى إنشاء موقع facebookjailed.com، حيث قام المستخدمون بتوثيق قرارات الاعتدال الغريبة، مثل صورة دجاجة يتم تصنيفها على أنها عري أو نشاط جنسي.
تُظهر بيانات فيسبوك الخاصة أن اعتمادها الكبير على الخوارزميات لمراقبة المحتوى على المنصة يؤدي إلى ملايين الأخطاء كل شهر.
وفقًا لأحدث بيانات الإشراف، اتخذ فيسبوك 1.7 مليون إجراء تنفيذي على المحتوى المتعلق بالمخدرات بين أبريل ويونيو من هذا العام. واكتشفت الشركة حوالي 98% من هذا المحتوى، مقارنة بـ 2% فقط أبلغ عنها المستخدمون. استأنف الأشخاص العقوبات في 182 ألف حالة وانتهى الأمر بفيسبوك إلى استعادة أكثر من 40 ألف قطعة من المحتوى—11.700 دون أي حاجة للاستئناف و28.500 بعد الاستئناف.
وتؤدي الخوارزميات التي تستهدف أنواعًا أخرى من المحتوى المحظور، مثل البريد العشوائي، إلى المزيد من الأخطاء. استعادت المنصة ما يقرب من 35 مليون مشاركة صنفتها عن طريق الخطأ على أنها رسائل غير مرغوب فيها خلال فترة الثلاثة أشهر الأخيرة، أي أكثر من 10 بالمائة من المحتوى غير المرغوب فيه المزعوم الذي قامت بإزالته سابقًا.