El Gobierno de España ha aprobado un anteproyecto de ley para regular el uso de la inteligencia artificial (IA) y garantizar la transparencia en los contenidos digitales. La norma, que adapta el Reglamento europeo de IA a la legislación nacional, exigirá que cualquier imagen, audio o vídeo creado o modificado con esta tecnología esté debidamente etiquetado para evitar confusión y posibles engaños.
Herramientas como Imagine de Meta, Firefly de Adobe o DALL-E de OpenAI han facilitado la generación de contenido sintético, lo que ha impulsado la necesidad de establecer un marco legal que informe a los usuarios sobre lo que consumen en redes sociales e internet.
Además de esta medida, la nueva ley prohíbe el uso de la IA para manipular decisiones mediante técnicas subliminales o explotar vulnerabilidades de personas en función de su edad o situación económica.
Las sanciones por incumplimiento de esta normativa entrarán en vigor el 2 de agosto eEspaña incluirán multas y restricciones comerciales para empresas que no cumplan con las directrices. Sin embargo, aún no se han definido los mecanismos específicos para el etiquetado, una tarea que quedará en manos de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) cuando se desarrolle la normativa.
MEDIDAS ACTUALES PARA IDENTIFICAR EL CONTENIDO CON IA
En este marco, son varias las tecnológicas que ya disponen de medidas de identificación para este tipo de contenido en Internet, así como herramientas para etiquetar el contenido generado mediante IA de los usuarios.
Una de las herramientas a las que recurren la mayoría de las compañías es el protocolo de Internet Universal que ofrece la Coalición para la Procedencia y Autenticidad del contenido (C2PA), del que ya forman parte OpenAI, Microsoft, Intel, Adobe, Google, Meta, Amazon, Sony, Truepic y TikTok, entre otras compañías.
En concreto, se trata de un proyecto de la Joint Development Foundation creado para frenar la desinformación en línea y el fraude de contenido. Así, permite a editores, empresas y creadores de contenido incorporar metadatos en sus materiales visuales y de audio para verificar su origen y la información relacionada. Su código es de libre acceso y se asegura mediante la criptografía.
De esta forma, por ejemplo en el caso de Amazon, todas las imágenes creadas con sus modelos Titan Image Generator v1 y v2 agregan automáticamente las credenciales de contenido C2PA, de manera que se muestran como generadas por IA de forma instantánea ante los sistemas de identificación compatibles con este protocolo universal.
Lo mismo ocurre en la plataforma de ByteDance, TikTok, que es capaz de etiquetar automáticamente el contenido generado por IA desde plataformas de terceros, mediante el protocolo C2PA. Igualmente, TikTok también dispone de herramientas con las que permite que sean los propios usuarios los que identifiquen este contenido a través de etiquetas en la red social.
Siguiendo esta línea, Meta es otra de las compañías tecnológicas que utiliza varios métodos para señalizar el contenido generado por IA ya que, según detalla en su web, mantiene como obligación identificar y etiquetar el contenido creado con herramientas de IA en cualquiera de sus productos, ya sea Facebook, Instagram o Threads, entre otros.
Así, además del protocolo C2PA, los sistemas de Meta disponen de la capacidad de identificar diversas señales incluidas en contenidos generados con IA para mostrar automáticamente etiquetas que lo señalicen. Por ejemplo, ha estado trabajando con empresas del sector para desarrollar normas comunes que permitan identificar los contenidos a través de foros como el Partnership on AI (PAI).
A la hora de identificar contenido, Meta lo etiqueta con una señal visible de ‘Información sobre IA’ en caso de que se haya creado íntegramente con esta tecnología. Por su parte, aquel contenido que únicamente haya sido modificado, lo especifica en la opción de ‘Información sobre IA’ incluida en el menú de cada publicación.
En cuanto al contenido creado con su herramienta Meta AI, la compañía introduce igualmente marcas de agua invisibles, que se basan en metadatos incrustados dentro de los archivos de la imagen en cuestión. Al igual que en TikTok, los usuarios también pueden etiquetar por su cuenta el contenido generado con IA en sus plataformas.
Google, por su parte, también dispone de herramientas como SynthID, una tecnología que agrega una marca de agua digital directamente en los píxeles de una imagen. De esta forma, es una marca imperceptible para el ojo humano pero, a través de un programa informático, es detectable para su identificación incluso después de modificaciones.
Esta opción es compatible con contenido tanto de texto como de vídeo, incluido, aquel generado mediante su modelo propio Veo. Además, puede ser utilizado por cualquier empresa ya que se trata de una herramienta gratuita de código abierto.
La compañía liderada por Sam Altman, OpenAI, dispone igualmente de métodos de marca de agua resistentes a la manipulación, así como clasificadores de detección, que son herramientas de IA que evalúan la probabilidad de que el contenido se origine a partir de modelos generativos.
Con todo ello, el anteproyecto de ley aprobado por el Consejo de Ministros se tramitará por la vía de urgencia y seguirá los trámites necesarios antes de volver al Consejo de Ministros para su aprobación definitiva como proyecto de ley y, tras ello, su envío a las Cortes para su aprobación.
