La Fundación Molly Rose (MRF) fue creada por la familia Russell y amigos cercanos en memoria de Molly Russell, quien falleció trágicamente a los 14 años. La prematura muerte de Molly, relacionada con la depresión y los efectos perjudiciales de las redes sociales, inspiró la misión de la fundación de combatir el suicidio juvenil. Mediante una investigación exhaustiva y el impulso de cambios en las políticas, la MRF busca descubrir la influencia nociva de las redes sociales y abogar por medidas que protejan a los usuarios jóvenes.
El reto
Para evaluar la prevalencia y la accesibilidad de los contenidos nocivos en las plataformas de redes sociales, la MRF centró su investigación en Instagram, TikTok y Pinterest. Estas plataformas fueron analizadas para detectar si promovían o permitían la exposición a temas relacionados con las autolesiones, el suicidio y contenidos que perpetuaban la desesperanza. Con el apoyo de The Bright Initiative yDataset Marketplace de Bright Data, la MRF recopiló y analizó más de mil publicaciones vinculadas a hashtags asociados con el suicidio y las autolesiones. Estas publicaciones se clasificaron sistemáticamente utilizando medidas cuantitativas y cualitativas para evaluar su impacto.
Los resultados
El estudio reveló un patrón preocupante: las plataformas de redes sociales a menudo recomiendan y amplifican contenidos nocivos mediante algoritmos diseñados para maximizar la participación. Entre los resultados se encuentran los siguientes
- Instagram: el 48 % de las publicaciones con mayor interacción promovían o glorificaban el suicidio o las autolesiones.
- TikTok: de manera similar, el 49 % de las publicaciones con mayor interacción contenían temas relacionados con la depresión, las autolesiones o las ideas suicidas.
- Pinterest: su función de recomendación «más para explorar» sugería activamente contenidos relacionados con el suicidio y las autolesiones.
Estos alarmantes resultados ponen de relieve un problema sistémico en el que los algoritmos de las plataformas dan prioridad a la interacción de los usuarios por encima de la seguridad, exponiendo a los jóvenes vulnerables a contenidos nocivos.
El impacto y la llamada a la acción
La investigación ha catalizado los debates sobre la urgente necesidad de regulaciones más estrictas y mejores medidas de seguridad digital. MRF y Bright Data están colaborando activamente para promover cambios en las políticas que hagan responsables a las plataformas de redes sociales del bienestar de los usuarios. Los hallazgos han reforzado los argumentos a favor de la transparencia en las operaciones algorítmicas y la implementación de medidas de protección para proteger a los usuarios, en particular a los jóvenes, de contenidos perjudiciales.
Estadísticas clave:
- 1181 publicaciones: recopiladas con hashtags relacionados con las autolesiones y el suicidio.
- 48 % de contenido nocivo: casi la mitad de las publicaciones analizadas en Instagram y TikTok glorificaban o promovían temas relacionados con las autolesiones o el suicidio.
- 12 % de alcance viral: una parte significativa de las publicaciones tenía más de un millón de «me gusta», lo que amplificaba su influencia en el público joven.
Más información:
- Informe completo: Prevenible pero omnipresente: la prevalencia y las características del contenido nocivo, incluido el material sobre suicidio y autolesiones, en Instagram, TikTok y Pinterest.
- Cobertura de The Guardian: Información sobre el informe y sus implicaciones.
Conclusión
Al arrojar luz sobre el impacto perjudicial de las redes sociales, MRF y Bright Data pretenden crear un espacio digital más seguro para todos los usuarios, garantizando que las plataformas den prioridad a la salud mental y la seguridad por encima de las métricas de interacción.
Más información sobre las actividades de Bright Initiative aquí. ¿Le interesa conocer los productos de Bright Data? Regístrese ahora y comience su prueba gratuita.
