في أواخر عام 2024 ، قدمت Meta حسابات Instagram Teen ، وهي شبكة أمان تهدف إلى حماية العقول الصغيرة من المحتوى الحساس وضمان أن يكون لها تفاعلات آمنة عبر الإنترنت ، مدعومة بتكنولوجيا الكشف عن العمر. يتم تصنيف حسابات المراهقين تلقائيًا على أنها كلمات خاصة مسيئة مخفية ، ويتم حظر الرسائل من الغرباء.
وفقًا للتحقيق الذي أجرته غير ربحية يركز على الشباب ، وتصميمها من أجلنا ، والتكنولوجيا المسؤولة ، فإن الدرابزين في سن المراهقة في Instagram لا تفي بوعدهم. على مدار أسبوعين ، تم اختبار خمس حسابات اختبار تخص المراهقين ، وتم عرض جميعهم محتوى جنسيًا على الرغم من وعود Meta.
وابل من المحتوى الجنسي
تم تقديم جميع حسابات الاختبار محتوى غير لائق على الرغم من تمكين مرشح المحتوى الحساس في التطبيق. يقول التقرير: “4 من 5 من 5 من حسابات Test Teen تم التوصية بها بشكل خوارزمي ومحتوى الأكل المضطربة”.
علاوة على ذلك ، أفاد 80 ٪ من المشاركين أنهم عانوا من الضيق أثناء استخدام حسابات Instagram Teen. ومن المثير للاهتمام ، أن واحدة فقط من حسابات الاختبار الخمسة هي إظهار الصور التعليمية ومقاطع الفيديو.
“(حوالي) 80 ٪ من المحتوى في خلاصتي كان مرتبطًا بالعلاقات أو النكات الجنسية الخام. هذا المحتوى ظل عمومًا بعيدًا عن كونه صريحًا تمامًا أو عرض صور رسومية مباشرة ، ولكن أيضًا ترك القليل جدًا للخيال” ، ونقلت أحد المختبرين قوله.
وفقًا للتقرير المكون من 26 صفحة ، يمثل 55 ٪ من المحتوى الذي تم وضع علامة عليه الأفعال الجنسية والسلوك الجنسي والصور الجنسية. وقد تراكمت مقاطع الفيديو هذه مئات وآلاف الإعجابات ، مع واحد منهم يتجاوز 3.3 مليون إعجاب.
كما دفعت خوارزمية Instagram أيضًا محتوى عزز المفاهيم الضارة مثل أنواع الجسم “المثالية” ، وخيوط الجسم ، وعادات الأكل. وكان هناك موضوع آخر مثير للقلق هو مقاطع فيديو عززت استهلاك الكحول ومقاطع الفيديو التي دفع المستخدمين إلى استخدام المنشطات والمكملات الغذائية لتحقيق نوع معين من الجسم المذكر.
حزمة كاملة من الوسائط السيئة
على الرغم من ادعاءات Meta بتصفية المحتوى الإشكالي ، وخاصة بالنسبة لمستخدمي المراهقين ، فقد تم عرض حسابات الاختبار أيضًا عنصريًا ومثليي الجنس ومحتوى النساء. مرة أخرى ، تلقت هذه المقاطع مجتمعة ملايين الإعجابات. كما تم دفع مقاطع الفيديو التي تظهر عنف السلاح والإساءة المنزلية إلى حسابات المراهقين.
“لم تتلقى بعض حسابات TEN TEEN الخاصة بنا الحماية الافتراضية لـ META. لم يتلق أي حساب عناصر تحكم حساسة في المحتوى ، في حين أن البعض لم يتلق حماية من التعليقات الهجومية” ، يضيف التقرير.
لن تكون هذه هي المرة الأولى التي يتم فيها العثور على Instagram (ومنصات التواصل الاجتماعي الأخرى في Meta ، بشكل عام) التي تخدم محتوى مشكلة. في عام 2021 ، كشفت التسريبات عن كيفية معرفة Meta بالتأثير الضار لـ Instagram ، وخاصة على الفتيات الصغيرات الذي يتعاملن مع قضايا الصحة العقلية وقضايا صورة الجسم.
في بيان مشترك مع واشنطن بوست ، ادعى ميتا أن نتائج التقرير معيب وتقلل من حساسية المحتوى الذي تم الإبلاغ عنه. منذ ما يزيد قليلاً عن شهر ، وسعت الشركة أيضًا حماية المراهقين إلى Facebook و Messenger أيضًا.
ونقل عن متحدث باسم META قوله: “لا يغير التقرير المصنّع حقيقة أن عشرات الملايين من المراهقين لديهم الآن تجربة أكثر أمانًا بفضل حسابات Instagram Teen”. ومع ذلك ، أضافوا أن الشركة كانت تبحث في توصيات المحتوى الإشكالية.