El Consejo de Supervisión de Meta ha instado a la compañía a reforzar la protección de las personas que no son figuras públicas frente a los ‘deepfakes’ sexualizados generados por inteligencia artificial (IA) en sus plataformas. Esto surge tras la revocación de una decisión de Meta que permitió la publicación de un vídeo en Instagram donde se suplantaba la identidad de una mujer. Estas decisiones son parte de la creciente preocupación por el contenido sexualizado no consentido y sus efectos psicológicos y reputacionales en las víctimas, principalmente mujeres y niñas.
Contexto del Problema
La proliferación de herramientas de IA ha llevado a una creación masiva de contenido sexualizado no consensuado. Un caso emblemático ocurrió en septiembre de 2025, cuando un usuario compartió un breve vídeo generado por IA en Instagram que mostraba a una mujer en situaciones comprometedores. A pesar de que los sistemas automatizados de Meta detectaron el contenido y dos usuarios lo denunciaron, la compañía decidió no retirarlo de la plataforma. Este hecho resaltó la falta de acción humana en la revisión de contenido potencialmente dañino.
Caso Específico en Instagram
El vídeo en cuestión se hizo viral a pesar de las alertas, indicando claras fallas en el sistema de moderación de Meta. La empresa posteriormente argumentó que no tenían pruebas suficientes para justificar la eliminación, ya que la persona supuestamente afectada no había presentado quejas. Sin embargo, el Consejo de Supervisión enfatizó que la suplantación de identidad generada por IA debe considerarse una infracción de consentimiento por defecto.
Revocación de la Decisión de Meta
El Consejo de Supervisión de Meta concluyó que la decisión inicial de la compañía fue incorrecta y no cumplió con las normas establecidas para proteger a los usuarios. Detallaron que las políticas vigentes deben incluir criterios más específicos para la identificación de contenido no consensuado y recalcaron la importancia de considerar la suplantación de identidad por IA como una categoría separada en los formularios de denuncia.
Necesidad de Mejoras en las Políticas de Moderación
- Endurecimiento de las Políticas: Se recomendó que Meta revise y fortalezca sus políticas de moderación, enfocándose especialmente en los ‘deepfakes’ sexualizados.
- Designación de Cuentas Conectadas: La posibilidad de que familiares o amigos puedan denunciar en nombre de la víctima se considera crucial para mejorar la acción ante estos casos.
- Creación de Categorías Específicas: Incluir la suplantación de identidad generada por IA en los formularios de denuncia y apelación como una categoría distinta para un mejor procesamiento de las denuncias.
Consejos para Emprendedores y Empresas
- Reforzar la Seguridad en Plataformas Digitales: Si tienes un negocio en línea, asegúrate de contar con políticas claras para proteger a tus usuarios. Esto no solo aumenta la confianza, sino que también evita posibles repercusiones legales.
- Incluir Protocolo de Denuncias: Implementa un sistema que permita a los usuarios denunciar rápidamente cualquier contenido no consensuado. Facilitar el proceso puede ayudar a proteger a los clientes y mantener la integridad de tu plataforma.
- Mantenerse Informado sobre Regulaciones: La regulación en torno al uso de IA está evolucionando. Es vital estar al tanto de las normativas locales e internacionales para evitar incumplimientos.
- Fomentar un Ambiente de Conciencia sobre IA: Educar a tu equipo acerca de los riesgos asociados con el contenido generado por IA puede resultar en una mejor gestión de crisis y menor exposición a daños reputacionales.
Conclusiones
La decisión del Consejo de Supervisión de Meta subraya una creciente necesidad de protección contra abusos en la era digital, especialmente utilizando IA para la creación de contenido dañino. Las empresas y emprendedores deben adoptar un enfoque proactivo hacia la seguridad y la moderación de contenido en sus plataformas, considerando no solo sus responsabilidades legales, sino también su impacto en la sociedad. Con la implementación de políticas más estrictas y un enfoque más humano en la moderación, es posible mitigar los efectos negativos de los ‘deepfakes’ y proteger a los individuos más vulnerables de estos nuevos riesgos digitales.