La plataforma TikTok ha sido objeto de serias acusaciones por permitir la publicación de vídeos sexualizados de menores, tanto generados mediante Inteligencia Artificial (IA) como tomados de cuentas reales. Este tipo de contenido no solo atrae a usuarios hacia la sexualización de los menores, sino que también promueve su comercialización a través de otras plataformas, como Telegram, lo que infringe gravemente la Ley de Servicios Digitales (DSA).
El problema de la sexualización en TikTok
Acceso fácil para los menores
Aunque TikTok es una de las aplicaciones más populares entre los menores de 18 años, se ha vuelto un lugar donde el acceso a contenido sexualizado de adolescentes es demasiado fácil. El análisis realizado por Maldita.es indica que la plataforma no solo permite este tipo de contenido, sino que también lo promociona. Esto se evidencia en cómo el algoritmo de TikTok sugiere cuentas y vídeos que exhiben a menores de manera sexualizada.
Análisis del contenido
La investigación se enfocó en 40 cuentas de TikTok que acumulaban más de 1.5 millones de seguidores y publicaron más de 5,200 vídeos sexualizados generados por IA, así como otros 3,600 vídeos de menores reales. Los contenidos generados mediante IA muestran a las adolescentes en bikinis o uniformes escolares, con un enfoque particular en las partes del cuerpo, mientras que las cuentas que replican contenido real utilizan vídeos de menores en entornos escolares.
Vender pornografía en plataformas
Redirección a contenido ilegal
Un hallazgo alarmante es que muchas de estas cuentas utilizan sus contenidos para dirigir a los usuarios a sitios web donde se comercializa pornografía infantil, tanto generada por IA como real. Las cuentas normalmente monetizan su contenido mediante el sistema de suscripción de TikTok o promueven la venta de dichos vídeos a través de plataformas como Telegram.
Estrategias que utilizan
Algunas cuentas comentan utilizando términos que aluden al intercambio de pornografía infantil, lo que implica una red de tráfico de contenidos ilegales. En una muestra de cómo estos procesos funcionan, 11 de las 14 cuentas contactadas a través de Telegram enviaron contenido pornográfico infantil sin que se les solicitara.
El rol de TikTok en la promoción del contenido
Algoritmo inquietante
Maldita.es demostró que el algoritmo de TikTok no solo recomienda, sino que también fomenta la sexualización de menores. Tras la creación de una cuenta de prueba, la plataforma sugería repetidamente contenidos sexualizados, incluyendo términos de búsqueda inapropiados.
Incumplimiento de la DSA
Esta situación contraviene las directrices de la DSA, que exige a las plataformas evaluar los riesgos que sus funciones pueden generar para los menores de edad. Sin embargo, TikTok ha mostrado una incapacidad o falta de voluntad para eliminar contenido y cuentas que facilitan la explotación de menores.
TikTok no actúa ante las denuncias
Respuesta a las quejas
Desde Maldita.es se denunciaron 15 cuentas que claramente violaban las normas de la plataforma sobre la sexualización de menores. Sin embargo, la mayoría de estas cuentas seguían activas incluso después de ser denunciadas. De 60 vídeos reportados, TikTok solo eliminó siete vídeos.
Consecuencias legales potenciales
Si TikTok continúa permitiendo este tipo de contenido problemático, puede enfrentar multas significativas de acuerdo con la DSA. El abogado especializado, Marcos Judel, subraya que TikTok debe asumir la responsabilidad por el contenido ilegal que aloja.
Consejos para emprendedores y negocios
Estrategias de prevención
- Monitoreo constante: Si opera en plataformas digitales, implemente un sistema de monitoreo para detectar contenido inapropiado inmediatamente.
- Educación: Si su emprendimiento se dirige a un público joven, implemente programas educativos sobre la seguridad en línea.
- Denuncias: Fomente la cultura de denuncia y reporte cualquier contenido que considere nocivo o inapropiado.
Desarrollo ético
- Crear contenidos responsables: Enfocarse en crear contenidos que sean Seguro y positivo para los menores.
- Colaboraciones: Al trabajar con influencers o creadores de contenido, asegúrese de que compartan sus mismos valores éticos en cuanto a la protección de menores.
Conclusiones
La situación en TikTok revela un grave problema en el manejo de contenido que sexualiza a menores, facilitando la próxima explotación y explotación sexual. Se requiere una acción inmediata tanto de las autoridades como de los responsables de la plataforma para corregir estas violaciones legales y proteger a las víctimas de abusos. Las consecuencias legales para TikTok podrían ser severas si no toman medidas decisivas. La responsabilidad de crear un espacio más seguro y responsable sobra, también, a los emprendedores y negocios que participen en estas plataformas.