La normativa europea clasifica los sistemas de IA según su nivel de riesgo e impone obligaciones estrictas de transparencia, seguridad y ética
La Unión Europea ha marcado un hito en la regulación tecnológica con la entrada en vigor de la EU AI Act, el primer marco legal integral sobre inteligencia artificial. Esta normativa, activa desde agosto de 2024 y de implementación progresiva hasta 2027, obliga a las empresas que desarrollen o usen sistemas de IA a cumplir requisitos estrictos según el nivel de riesgo de cada tecnología.
En línea con esta legislación, España ha presentado su propio “Anteproyecto de Ley para el Buen Uso y la Gobernanza de la Inteligencia Artificial”, reforzando el compromiso con una IA ética y segura. Para ayudar a las organizaciones a adaptarse, la consultora Innova-tsn ha identificado las claves para implantar estos sistemas de forma responsable y evitar sanciones millonarias.
Clasificación por niveles de riesgo
La normativa distingue entre sistemas de riesgo inaceptable, alto, limitado y mínimo. Los de alto riesgo, como los utilizados en diagnósticos médicos o selección de personal, requerirán supervisión humana, evaluaciones periódicas y documentación exhaustiva. Los de riesgo inaceptable están prohibidos, mientras que los de riesgo limitado o mínimo deben cumplir normas de transparencia y protección de datos.
Transparencia y explicabilidad
Las empresas deberán proporcionar información clara sobre cómo funciona cada modelo, los datos utilizados y las decisiones automatizadas. Además, los sistemas deberán ser explicables para que usuarios y responsables entiendan su comportamiento y lógica operativa.
Seguridad y privacidad
La EU AI Act exige medidas técnicas como cifrado, autenticación multifactor y restricciones de acceso, además del cumplimiento con el Reglamento General de Protección de Datos (RGPD). En los modelos generativos, también se pide la implementación de marcas de agua y el uso controlado de datos biométricos.
Régimen sancionador
Las multas pueden alcanzar hasta 35 millones de euros o el 7 % de la facturación global en casos graves. Los incumplimientos menores pueden conllevar penalizaciones de hasta 7,5 millones o el 1 % del volumen de negocio. El sector público, sin embargo, contará con un régimen más laxo, con amonestaciones o apercibimientos.
Sostenibilidad
La legislación también atiende al impacto medioambiental del entrenamiento de modelos, promoviendo el uso de arquitecturas eficientes, modelos preentrenados y prácticas responsables de consumo energético.
Equidad y no discriminación
Se insta a evitar sesgos mediante el uso de datos equilibrados y la participación de equipos multidisciplinares, para garantizar que las tecnologías sean justas y representativas.
Gobernanza interna
Cada empresa deberá establecer procesos y estructuras claras para asegurar una IA ética y alineada con sus objetivos de negocio. La combinación de enfoques técnicos y organizativos será clave para el cumplimiento normativo.
La EU AI Act no solo impone obligaciones, sino que ofrece a las empresas la posibilidad de posicionarse como referentes en sectores regulados, adoptando un enfoque proactivo en el uso de tecnologías emergentes.