El Consejo de Supervisión de Meta ha pedido a la compañía que refuerce sus medidas frente a los deepfakes sexualizados creados con inteligencia artificial, especialmente cuando afectan a personas que no son figuras públicas. El organismo ha revocado una decisión de Meta que mantuvo en Instagram un vídeo generado supuestamente con IA en el que se suplantaba la identidad de una mujer.
El caso analizado se remonta a septiembre de 2025. Una usuaria publicó un vídeo de ocho segundos en el que aparecía una mujer ajustándose un vestido ceñido y mostrando su ropa interior en algunos fotogramas. Los sistemas automatizados de Meta detectaron la publicación como contenido potencialmente dañino y con riesgo de viralización, pero no se activó una revisión humana prioritaria. Después, dos usuarios denunciaron el contenido, aunque la plataforma siguió mostrándolo.
La situación llegó a los expertos de Meta tras una apelación en la que se explicaba que el vídeo había sido generado con IA y suplantaba a una mujer sin consentimiento. Pese a ello, la compañía concluyó que la publicación no debía retirarse según sus Normas de la Comunidad y la mantuvo disponible, aunque restringida a usuarios adultos.
El Consejo de Supervisión considera que esa decisión fue incorrecta. A su juicio, la publicación vulneraba la política de Meta sobre explotación sexual de adultos, que prohíbe compartir imágenes íntimas no consentidas. El organismo cuestiona que la compañía no interpretara la suplantación mediante IA como una señal suficiente de falta de consentimiento.
Meta defendió que no tenía indicios suficientes para confirmar que la persona representada fuera real, ya que la afectada no había denunciado directamente el contenido en la plataforma ni ante fuerzas del orden independientes. El Consejo respondió que la suplantación sexualizada creada con IA no debe presumirse consentida y debe incorporarse como señal para evaluar este tipo de casos.
Entre sus recomendaciones, el organismo plantea endurecer las normas de moderación para abordar de forma específica los deepfakes sexualizados. También propone que Meta permita designar cuentas conectadas, de modo que amigos, familiares o personas de confianza puedan denunciar posibles infracciones en nombre de la víctima.
El Consejo reclama además que la suplantación sexualizada generada con IA figure como categoría propia en los formularios de denuncia y apelación, separada de opciones como acoso o desnudez, y que esos formularios estén disponibles en todo el mundo.
El organismo advierte de que la expansión de herramientas de IA facilita la creación y difusión de contenido sexualizado no consentido, una práctica que puede causar daños psicológicos y reputacionales. También subraya que el problema afecta especialmente a mujeres y niñas, y pide una respuesta más contundente de las plataformas ante la sofisticación de estas tecnologías en sus redes sociales y demás aplicaciones digitales.
