Un nuevo informe volvió a poner a TikTok en el centro de la discusión por su impacto en la salud mental de niños y adolescentes. Especialistas del Algorithmic Transparency Institute, la National Conference on Citizenship y AI Forensics advirtieron que el algoritmo de recomendación de la plataforma puede amplificar contenidos relacionados con la depresión, las autolesiones y el suicidio, especialmente entre usuarios jóvenes que ya presentan algún grado de vulnerabilidad.
La investigación, respaldada por Amnistía Internacional, concluyó que el sistema de recomendaciones de TikTok no solo detecta el interés de los usuarios por este tipo de publicaciones, sino que también incrementa progresivamente su exposición, generando una especie de "espiral" de contenido similar. Según los expertos, esto representa un riesgo significativo para la salud mental de los menores y reaviva el debate sobre la necesidad de una mayor regulación de las plataformas digitales.
Cómo funciona el algoritmo de TikTok
Para evaluar el comportamiento de la aplicación, los investigadores crearon cuentas automatizadas que simulaban ser adolescentes en distintos países. Durante las pruebas observaron que, luego de entre cinco y seis horas de uso, cerca de la mitad de los videos recomendados en la sección "Para ti" estaban vinculados con temáticas depresivas o potencialmente dañinas.
Además, comprobaron que cada interacción con ese tipo de publicaciones —como detenerse a mirarlas o reproducirlas por más tiempo— hacía que el algoritmo ofreciera todavía más contenido similar. De esta manera, el sistema terminaba reforzando el interés detectado y reduciendo la diversidad de recomendaciones.
La inteligencia artificial suma nuevos desafíos
El informe también advierte que la evolución de la inteligencia artificial complejiza aún más el escenario. Los especialistas señalaron la aparición de influencers generados mediante IA capaces de parecer personas reales y de influir sobre adolescentes para promover compras o determinados comportamientos, lo que agrega nuevos riesgos para una audiencia especialmente sensible.
Si bien los estudios analizados fueron realizados antes del auge masivo de estas herramientas, los investigadores consideran que la combinación entre algoritmos de recomendación e inteligencia artificial incrementa la necesidad de establecer mecanismos de transparencia y controles más estrictos sobre el funcionamiento de estas plataformas.
Las conclusiones refuerzan los reclamos de organizaciones y expertos para que las empresas tecnológicas implementen medidas de protección más eficaces y para que los organismos reguladores avancen en normas que reduzcan la exposición de niños y adolescentes a contenidos que puedan afectar su bienestar psicológico.
Cerrar sesión