دراسة: إنستجرام يؤدي لانتشار "إيذاء النفس" بين المراهقين

وكشفت دراسة جديدة، بحسب موقع TheGuardian البريطاني، أن التعريف يساعد بشكل فعال على انتشار محتوى إيذاء النفس على إنستغرام من خلال الفشل في إزالة الصور الفاضحة وتشجيع أولئك الذين يتفاعلون مع هذا المحتوى على تكوين صداقات مع بعضهم البعض.

أنشأ باحثون دنماركيون شبكة خاصة لإيذاء النفس على منصة التواصل الاجتماعي، بما في ذلك الملفات الشخصية المزيفة لأشخاص لا تتجاوز أعمارهم 13 عامًا، حيث شاركوا 85 قطعة من المحتوى المتعلق بإيذاء النفس والتي زادت خطورتها تدريجيًا، بما في ذلك الدم وشفرات الحلاقة والتشجيع. من إيذاء النفس.

وتهدف الدراسة إلى اختبار ادعاء ميتا بأنها قامت بتحسين عملياتها بشكل كبير لإزالة المحتوى الضار، والذي تقول إنه يستخدم الآن الذكاء الاصطناعي، وتدعي شركة التكنولوجيا أنها تزيل حوالي 99٪ من المحتوى الضار قبل الإبلاغ عنه.

لكن منظمة Digitalt Ansvar (المساءلة الرقمية)، وهي منظمة تشجع التطوير الرقمي المسؤول، وجدت أنه في التجربة التي استمرت لمدة شهر لم تتم إزالة أي صورة، وعندما أنشأت أداة الذكاء الاصطناعي البسيطة الخاصة بها لتحليل المحتوى، تمكنت من تحديد 38% من صور إيذاء النفس و88% من أخطر الصور تلقائياً.

وقالت الشركة إن هذا أظهر أن Instagram لديه إمكانية الوصول إلى التكنولوجيا القادرة على معالجة المشكلة لكنه “اختار عدم تنفيذها بشكل فعال”، وقالت شركة Digitalt Ansvar إن الاعتدال غير الكافي للمنصة يشير إلى أنها لا تمتثل لقانون الاتحاد الأوروبي.

وجدت دراسة استقصائية أجرتها مؤسسة Stem4 الخيرية للصحة العقلية للشباب أن ما يقرب من نصف الأطفال والشباب الذين تم استجوابهم أصبحوا معزولين، وبدأوا في ممارسة الرياضة بشكل مفرط، وتوقفوا عن التواصل الاجتماعي تمامًا أو إيذاء أنفسهم ردًا على التنمر عبر الإنترنت والتصيد بشأن مظهرهم الجسدي.

تقول الدراسة إن وسائل التواصل الاجتماعي تحفز الأطفال على كراهية أجسادهم وقال متحدث باسم ميتا: “المحتوى الذي يشجع على إيذاء النفس يتعارض مع سياساتنا ونقوم بإزالة هذا المحتوى عندما نكتشفه. وفي النصف الأول من عام 2024، قمنا بإزالة أكثر من 12 مليون مقالة متعلقة بالانتحار.” وإيذاء النفس على Instagram، وقد قمنا بإزالة 99% منها بشكل استباقي.

“في وقت سابق من هذا العام، أطلقنا حسابات المراهقين على Instagram، والتي ستضع المراهقين في إعدادات التحكم الأكثر صرامة في المحتوى الحساس، لذلك من غير المرجح أن يتم التوصية بهم كمحتوى حساس وفي كثير من الحالات يخفيون هذا المحتوى تمامًا.”

ومع ذلك، وجدت الدراسة الدنماركية أنه بدلاً من محاولة إغلاق شبكة إيذاء النفس، كانت خوارزمية إنستغرام تساعدها بنشاط على التوسع. تشير الأبحاث إلى أن الأطفال الذين يبلغون من العمر 13 عامًا يصبحون أصدقاء مع جميع أعضاء مجموعة إيذاء النفس بعد الاتصال بأحد أعضائها.

وقالت الدراسة إن هذا “يشير إلى أن خوارزمية إنستغرام تساهم بشكل فعال في تكوين وانتشار شبكات إيذاء النفس”. وفي حديثه لصحيفة الأوبزرفر، قال الرئيس التنفيذي لشركة Digital Inspector، اسأل هيسبي هولم، إن الشركة صدمت من النتائج، بعد أن اعتقدت أنه مع تزايد خطورة… الصور التي تشاركها، ستدق أجراس الإنذار على المنصة.

وقال: “اعتقدنا أنه مع قيامنا بذلك تدريجياً، سنصل إلى النقطة التي سيتعرف فيها الذكاء الاصطناعي أو الأدوات الأخرى على هذه الصور أو تحددها”. وقال: “لكن المفاجأة الكبرى هي أنهم لم يفعلوا ذلك”. “كان هذا مثيرًا للقلق لأننا اعتقدنا أن لديهم نوعًا ما من الآلات التي تحاول اكتشاف هذا المحتوى وتحديده.”

وقال إن الفشل في تخفيف صور إيذاء النفس يمكن أن يؤدي إلى “عواقب وخيمة”. “يرتبط هذا ارتباطًا وثيقًا بالانتحار. لذلك إذا لم يقوم أحد بالإبلاغ عن هذه المجموعات أو القيام بأي شيء حيالها، فإنها تظل مجهولة للآباء والسلطات ومن يستطيع ذلك.” “المساعدة في الدعم.” وهو يعتقد أن شركة ميتا لا تدير مجموعات خاصة صغيرة، مثل تلك التي أنشأتها شركته، من أجل الحفاظ على ارتفاع عدد الزيارات والمشاركة. “لا نعرف ما إذا كانوا يديرون مجموعات أكبر، لكن المشكلة هي أن مجموعات إيذاء النفس صغيرة.”

وقالت لوتي روبكي، عالمة النفس الرائدة التي تركت مجموعة الخبراء العالمية المعنية بمنع الانتحار في شركة ميتا في مارس/آذار بعد اتهامها “بغض الطرف” عن المحتوى الضار على إنستغرام، إنها على الرغم من أنها لم تتفاجأ بالنتائج الإجمالية، إلا أنها صدمت عندما رأت ذلك. لم يقوموا بإزالة المحتوى الأكثر وضوحًا. .

وقالت: “لم أكن أعتقد أبدًا أن العدد سيكون صفرًا من بين 85 منشورًا قاموا بحذفها”. قال روبيك: “كنت آمل أن يكون الأمر أفضل”. إن فشل ميتا في إزالة صور إيذاء النفس من منصاتها “يحفز” الشابات والفتيات المعرضات للخطر على إيذاء أنفسهن بشكل أكبر ويساهم في ارتفاع أعداد الانتحار.

وقالت إن قضية إيذاء النفس على إنستغرام هي مسألة حياة أو موت بالنسبة للأطفال الصغار والمراهقين. “بطريقة ما، هذا مجرد ضرر جانبي لهم في طريقهم إلى كسب المال وتحقيق الربح على منصاتهم.”