redaccion@diariodigitalis.com

La UE podría prohibir las Inteligencias Artificiales para vigilancia masiva y predicción de comportamiento

La Unión Europea está estudiando prohibir la Inteligencia Artificial basada en sistemas de vigilancia masiva y en los programas de valoración predictiva de personas según se ha podido saber a través de un borrador que se ha filtrado en internet y del que se hizo eco The Verge. En dicho documento también se menciona una especial vigilancia sobre las tecnologías consideradas de ‘alto riesgo’.

La Inteligencia Artificial (IA) es definida como la «inteligencia llevada a cabo por máquinas». Por unos considerada el futuro de la humanidad, una herramienta que nos facilitará la vida y que permitirá grandes avances. Para otros, una tecnología que destruirá muchos puestos de trabajo y que a su vez puede suponer un peligro para la sociedad. Y siguiendo la línea de esto último es por dónde la Unión Europea se está cuestionando si debe vigilar de cerca ciertas IA o incluso llegar a prohibirlas.

Todo esto se ha podido saber gracias a la filtración de un borrador elaborado por el máximo organismo europeo llamado Regulation on a European approach for Artificial Intelligence’ y que trata sobre un futuro nuevo reglamento sobre la Inteligencia Artificial. Según ha informado The Verge, la idea es que este escrito se confirme y haga público la próxima semana.

Un reglamento ‘hermano’ del RGPD

Según aseguran desde el citado medio, esta nueva normativa vendría a ser algo similar al Reglamento General de Protección de Datos (RGPD) ya existente en la UE en materia de internet y uso de dispositivos tecnológicos. Así pues, este reglamento sería independiente de las políticas existentes sobre IA en otros países como China o Estados Unidos.

Id bootcamps Banner

El documento también establece una serie de penalizaciones para aquellas empresas u organismos que comercialicen sistemas de inteligencia artificial prohibidos en la Unión Europea podrían ser multados con hasta un 4% de sus ingresos anuales, incluyendo aquellas compañías que tengan su sede fiscal en otros países o continentes.

De acuerdo con el borrador, algunas de las prohibiciones y normativas que se están estudiando son:

  • La prohibición de las IA destinadas a la «vigilancia indiscriminada», incluyendo aquellos sistemas que agreguen información de forma directa en espacios físicos o desde otras fuentes.
  • La prohibición de sistemas de IA cuyo objetivo sea la creación de valoraciones predictivas de personas los cuales calculan y predicen los comportamientos sociales de un determinado individuo.
  • El requerimiento de una autorización para hacer uso de sistemas de identificación biométrica como el reconocimiento facial en espacios públicos.
  • Una supervisión de los sistemas de IA considerados de «alto riesgo» donde se incluyen aquellos relacionados con la seguridad, los coches con sistema de conducción automática, o todos aquellos que puedan afectar a la vida de las personas como los relacionados con la contratación de personal o decisiones judiciales entre otros.

También se menciona la necesidad de crear un «Consejo Europeo de Inteligencia Artificial», compuesto por representantes de toda la UE, que establezca cuales son aquellas de «alto riesgo» y cuales son las prohibiciones que se deben interponer.

Una decisión que genera muchas dudas

Sin embargo estas medidas parecen no convencer a los expertos en seguridad e IA. Daniel Leufer, analista de leyes en Access Now en declaraciones a The Verge, comentaba que «las descripciones de los sistemas de Inteligencia Artificial que se dan en estas normativas son confusas y pueden dar lugar en el futuro a numerosos vacíos legales«. Y añadía: «están lejos de ser las ideales».

Por otro lado, Omer Teme, vicepresidente de la Asociación Internacional de Profesionales de la Privacidad aseguraba en Twitter que la llegada de esta normativa se trataba más de «un acercamiento de Bruselas a las nuevas tecnologías y la innovación pero que dudosamente regulará algo».

Todo esto llega en el momento en que los gobiernos están intentando dar un salto en la transformación digital y donde la Inteligencia Artificial puede tener un papel importante. Como se revelaba hace unas semanas, para el 80% del sector público español la IA es una prioridad. Pase lo que pase, está claro que tanto estados miembro como la UE deberán llegar a un acuerdo para establecer un reglamento que no pueda dejar ningún tipo de resquicio.

Foto de Ciudad creado por wirestock – www.freepik.es

Artículos Relacionados

Suscríbete a nuestra newsletter


(Obligatorio)

También te puede gustar

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Suscríbete a nuestra newsletter