La regulación europea de la inteligencia artificial incorpora desde este domingo, 2 de agosto, nuevas obligaciones destinadas a aumentar la transparencia de los sistemas de IA. Entre las medidas que comienzan a aplicarse figuran la identificación de los chatbots ante los usuarios y nuevos requisitos para los contenidos generados o modificados artificialmente, incluidos los conocidos como ‘deepfakes’.
La Unión Europea se convirtió en el primer territorio en establecer un marco específico para regular la inteligencia artificial y plantea esta normativa como un sistema que deberá adaptarse a la evolución de la tecnología. La aplicación de estas nuevas exigencias forma parte de ese proceso de desarrollo de la Ley de IA europea.
Los usuarios deberán saber cuándo hablan con una máquina
Una de las novedades que tendrá un efecto más directo sobre los usuarios afecta a los sistemas de IA capaces de mantener conversaciones, como los chatbots y los asistentes virtuales.
A partir de la entrada en vigor de las nuevas obligaciones, estos sistemas tendrán que informar de forma clara cuando una persona esté interactuando con una máquina. El objetivo es evitar que el usuario pueda confundir un sistema automatizado con una persona real y favorecer que pueda valorar la información recibida teniendo en cuenta su origen.
La medida afecta a las interacciones digitales en las que intervienen sistemas de IA y pone el foco en la transparencia como uno de los elementos centrales de la regulación comunitaria.
Más controles sobre los ‘deepfakes’
La normativa también establece requisitos específicos para los contenidos generados o manipulados mediante inteligencia artificial que puedan parecer reales. Las imágenes, vídeos o audios de este tipo deberán incorporar una identificación visible que permita conocer su origen artificial.
Además de esta señalización, los contenidos deberán incluir marcas digitales que puedan ser interpretadas por otros sistemas informáticos. Esta información técnica está concebida para facilitar la detección de material generado artificialmente por parte de las plataformas.
Con estas medidas, la UE busca reforzar la capacidad para identificar contenidos artificiales y hacer frente a riesgos relacionados con la desinformación y la manipulación mediante material que pueda confundirse con contenido real.
La entrada en vigor de estas obligaciones supone un nuevo paso en la aplicación del marco europeo sobre inteligencia artificial, que pretende establecer reglas comunes para el desarrollo y utilización de esta tecnología y reforzar la transparencia en su relación con los ciudadanos y las empresas.
