La vigilancia indiscriminada con IA será regulada por Europa

206

Prohibición de prácticas como la vigilancia indiscriminada de forma generalizada o los sistemas puntación (scoring) realizados a partir de la Inteligencia Artificial, definición y control de los sistemas de IA considerados de “alto riesgo”, creación de autoridades nacionales y europeas de supervisión y multas de hasta el 4% de los ingresos anuales para aquellos que no respeten la regulación.

Estas son algunas de las medidas recogidas en la propuesta regulatoria que ha elaborado la Comisión Europea (CE) para salvaguardar los derechos y los valores fundamentales a la hora de utilizar la Inteligencia Artificial, que está previsto se presente el próximo 21 de abril, pero cuyo borrador se acaba de filtrar.

El documento, de 81 páginas, hace especial énfasis en la gestión de lo que denomina sistemas de Inteligencia Artificial de “alto riesgo”, con el fin de que su uso no presente un “riesgo inaceptable” a la protección de la seguridad, los derechos fundamentales y los valores de la unión.

La propuesta establece dos categorías. La primera engloba a los sistemas para la identificación biométrica de personas en espacios de acceso público y aquellos que se usen como componentes de seguridad en la gestión y operación de redes de infraestructuras públicas esenciales, que deberán estar sujetos a procedimientos de evaluación de conformidad más estrictos a través de un organismo autorizado.

La segunda categoría hace referencia a aquellos sistemas de Inteligencia Artificial de alto riesgo cuya evaluación debe ser realizada por el propio proveedor. Entre ellos se encuentra aquellos que se emplean en situaciones críticas para la vida y la salud de las personas y sus propiedades, así como los que se utilizan en procesos de selección en el ámbito formativo y laboral, de determinación de solvencia económica o de decisión de prestación de servicios y beneficios sociales.

Otro de los elementos claves de la legislación incluida en el borrador filtrado consiste en la elaboración de una lista de prácticas prohibidas que se pueden llevar a cabo con la Inteligencia Artificial y que Bruselas considera que contravienen los valores de la Unión Europea (UE) o violan derechos fundamentales recogidos en la legislación del Viejo Continente.

En concreto, estará prohibido utilizar sistemas de Inteligencia Artificial para la “vigilancia indiscriminada aplicada de forma generalizada a todas las personas sin diferenciación”. Así, apunta, por ejemplo, a métodos como los que incluyen “el seguimiento y la vigilancia de personas en entornos digitales o físicos, así como la agregación y los análisis automatizados de datos personales de diversas fuentes”.

No obstante, el texto apunta que algunas prácticas con IA de estas características podrían ser permitidas cuando sean empleadas por autoridades públicas o en su representación con el fin de salvaguardar la seguridad pública, actuación que estará sujeta a las debidas garantías de los derechos y libertades de terceros.

También, el borrador propone la prohibición del uso de la IA para otorgar una “puntuación” o scoring a las personas, incluido de forma online, a partir del análisis de su comportamiento en diferentes contextos o la predicción de características de personalidad.

En concreto, el borrador recoge que aquellos que incumplan la ley se enfrentan a multas que podrían alcanzar los 20 millones de euros o, en el caso de las empresas, hasta el 4% de sus ingresos anuales a nivel global del año precedente, el importe que sea mayor.

Asimismo, se establece la creación de un ‘Consejo Europeo de Inteligencia Artificial’ que estará compuesto por un representante de cada Estado miembro y uno de la Comisión Europea, cuya misión será emitir recomendaciones y opiniones relevantes, con foco en la lista de prácticas prohibidas y la de sistemas de alto riesgo.

EL ESPAÑOL (14/04/2021)

Más información aquí

Si te resultó útil...Share on Facebook
Facebook
Tweet about this on Twitter
Twitter
Share on LinkedIn
Linkedin
Email this to someone
email