Los abogados especializados en inteligencia artificial (IA) de Osborne Clarke están alertando a las empresas en la Unión Europea (UE) y a las organizaciones globales con clientes en la región que tienen menos de 10 semanas para retirar una serie de herramientas de IA prohibidas o podrían enfrentarse a multas significativas. El nuevo Reglamento de IA de la UE entró en vigor el 1 de agosto de 2024 especifica una serie de categorías de IA que estarán específicamente prohibidas a partir de seis meses de su entrada en vigor, es decir, desde el 2 de febrero de 2025.
“Dados los plazos establecidos en el Reglamento europeo de IA, resulta esencial que las empresas pongan en marcha de forma inmediata procesos dirigidos a analizar cualquier herramienta de IA que pueda entrar en conflicto con las disposiciones aplicables del Reglamento”, señala Rafael García del Poyo, socio director del Departamento de Derecho de IT/IP en Osborne Clarke España. “Resulta esencial que las empresas no sólo eliminen dentro de los plazos previstos las herramientas de IA consideradas prohibidas, sino que también implementen procedimientos internos destinados a abordar la gestión de los riesgos derivados del uso de cualquier tipo de herramientas de IA y a dotarlas de la transparencia necesaria para cumplir con estas nuevas obligaciones legales “.
Prohibiciones según el artículo 5 de la Ley de IA
Las aplicaciones de IA prohibidas incluyen aquellas que supongan riesgos inaceptables para la salud, la seguridad o los derechos fundamentales. Entre ellas se encuentran:
– Sistemas de IA que utilicen técnicas subliminales, manipuladoras o engañosas para distorsionar significativamente el comportamiento de las personas, causando daño grave.
– Sistemas que exploten vulnerabilidades relacionadas con la edad, la discapacidad o circunstancias socioeconómicas para influir en el comportamiento y causar daño significativo.
– Puntuaciones sociales basadas en características personales que resulten en un trato discriminatorio.
– Creación de bases de datos de reconocimiento facial mediante web scraping no autorizado o uso de imágenes de CCTV.
– Sistemas de inferencia emocional en entornos laborales o educativos, salvo por motivos médicos o de seguridad.
– Categorización biométrica que utilice datos sensibles, como raza, religión u orientación sexual, salvo excepciones para la aplicación de la ley.
– Sistemas de IA utilizados para predecir delitos basándose únicamente en perfiles o características de personalidad.
– Reconocimiento facial remoto en tiempo real en espacios públicos, con excepciones limitadas.
El incumplimiento de la retirada de estos sistemas de IA en la UE podría implicar que, desde el 2 de agosto de 2025, las autoridades nacionales de los países de la UE puedan imponer multas de hasta 35 millones de euros o el 7% de la facturación global, lo que sea mayor, según lo establecido en el artículo 99(3) de la Ley de IA.
IT USER (02/12/2024)
Más información aquí
