في عام 2021، اختنقت فتاة تبلغ من العمر 10 سنوات تدعى نايلاه أندرسون حتى الموت عن طريق الخطأ بسبب مقود كلب كانت تلفه حول رقبتها. وقد أُجبرت أندرسون على الانخراط في هذا السلوك الخطير بسبب “تحدي انقطاع التيار الكهربائي”، وهي لعبة فيروسية متداولة على تيك توك في ذلك الوقت. في عام 2022، ذكرت بلومبرج أن هذا التحدي، الذي شجع الأطفال على خنق أنفسهم بأدوات منزلية ثم تصوير فقدانهم للوعي (وفي معظم الحالات، إفاقتهم اللاحقة)، كان مرتبطًا بما يصل إلى 20 حالة وفاة.
كانت محكمة قد قضت سابقًا بأن والدة أندرسون، تاواينا أندرسون، لا يمكنها مقاضاة تيك توك بسبب المادة 230، قانون الإنترنت المثير للجدل الذي يمنح منصات الإنترنت الحصانة القانونية للمحتوى الذي ينشره أطراف ثالثة على مواقعها. والآن، سعت محكمة أمريكية إلى إلغاء هذا الحكم السابق، قائلة إن تيك توك ستضطر إلى الدفاع عن نفسها ضد الدعوى القضائية دون استخدام المادة 230 كذريعة لأفعالها.
وفي رأي أصدرته محكمة الاستئناف بالدائرة الثالثة في ولاية بنسلفانيا، زعمت لجنة من ثلاثة قضاة أن تيك توك لا تستطيع الاختباء وراء قانون الإنترنت لحماية نفسها من الملاحقة القضائية. والواقع أن الرأي يزعم أن ابنة أندرسون لم تصادف “تحدي التعتيم” بالصدفة أثناء تصفح موقع تيك توك. بل إن خوارزمية المنصة قدمت “التحدي” لابنة أندرسون عبر “صفحتها من أجلك”، وهو ما يشير إلى أن الموقع لعب دورا نشطا في توزيع المواد.
“لا تعتمد خوارزمية تيك توك فقط على مدخلات المستخدم عبر الإنترنت”، كما جاء في القرار. “بدلاً من ذلك، تقوم الخوارزمية بتنظيم وتوصية مجموعة مخصصة من مقاطع الفيديو لـ FYP للمستخدم بناءً على مجموعة متنوعة من العوامل، بما في ذلك عمر المستخدم والتركيبة السكانية الأخرى والتفاعلات عبر الإنترنت والبيانات الوصفية الأخرى”. يشير هذا إلى أن تيك توك لم يكن يستضيف المحتوى بشكل سلبي فحسب، بل كان يغذيه بنشاط للفتاة الصغيرة. يستمر القرار: “يتم تحصين ICS فقط إذا تمت مقاضاتهم بسبب نشاط تعبيري أو محتوى لشخص آخر (أي خطاب طرف ثالث)، لكنهم لا يتم تحصينهم إذا تمت مقاضاتهم بسبب نشاطهم التعبيري أو محتواهم”.
وقد قضت محكمة سابقة بأن “خوارزمية المنصة التي تعكس “الأحكام التحريرية” حول “تجميع خطاب الطرف الثالث بالطريقة التي تريدها” هي “المنتج التعبيري” الخاص بالمنصة وبالتالي فهي محمية بموجب التعديل الأول”، كما جاء في الرأي. وعلى هذا النحو، إذا كانت هذه الخوارزميات تُعَد “خطابًا” للمنصات، فإن هذا المحتوى ليس سلبيًا وبالتالي لا يخضع لحماية المادة 230، كما يزعم القضاة.
في عام 2011، كتب القاضي بول ماتي في موافقة قانونية جزئية مرفقة بالرأي أن المادة 230 قد تطورت بعيدًا عن القصد الأصلي للقانون، وأصبحت الآن قانونًا “يحصن المنصات من عواقب سلوكها ويسمح للمنصات بتجاهل الالتزام العادي الذي يتعين على معظم الشركات اتخاذ خطوات معقولة لمنع خدماتها من التسبب في ضرر مدمر”.
تواصل موقع Gizmodo مع TikTok للحصول على تعليق.
من الواضح أن قرار المحكمة يثير تساؤلات كبيرة حول مستقبل المادة 230، وكذلك حول مستقبل صناعة وسائل التواصل الاجتماعي. لسنوات، عملت منصات التواصل الاجتماعي إلى حد كبير كصناديق سوداء، باستخدام خوارزميات سرية مغلقة المصدر تتلاعب بأنواع المحتوى التي يتفاعل معها مستخدمو الموقع. يمكن القول إن هذا التنظيم الخوارزمي كان له الكثير من الآثار الجانبية السلبية. تم إلقاء اللوم على الخوارزميات في التطرف السياسي، وأمراض الصحة العقلية، وفي حالات مثل هذه، تشجيع الأطفال على الانخراط في سلوك خطير أو محفوف بالمخاطر. إذا أصبحت خوارزميات الشركات مصدرًا للتقاضي في المستقبل، فقد يؤدي ذلك إلى تغيير جذري في الطريقة التي تستضيف بها المحتوى – مما سيؤدي بدوره إلى تغيير جذري في شكل الإنترنت.