La UE exigirá controles estrictos a empresas con sistemas de inteligencia artificial de alto riesgo

La UE exigirá controles estrictos a empresas con sistemas de inteligencia artificial de alto riesgo

La Unión Europea avanza en la aplicación del Reglamento de Inteligencia Artificial, una normativa que obligará a las empresas a reforzar los controles sobre los sistemas de IA considerados de alto riesgo. La medida busca proteger derechos fundamentales, seguridad, transparencia y responsabilidad en el uso empresarial de esta tecnología.

La inteligencia artificial ya no será solo una herramienta de innovación para las empresas europeas. También será un área sometida a vigilancia regulatoria. Con la entrada en aplicación progresiva del Reglamento de Inteligencia Artificial de la Unión Europea, conocido como AI Act, las compañías que desarrollen, comercialicen o utilicen sistemas de IA deberán clasificar sus tecnologías según el nivel de riesgo y cumplir obligaciones específicas.

La Comisión Europea recuerda que el AI Act entró en vigor el 1 de agosto de 2024 y se aplica de forma gradual. Las prácticas prohibidas y las obligaciones de alfabetización en IA comenzaron el 2 de febrero de 2025, las normas para modelos de propósito general empezaron el 2 de agosto de 2025, y el régimen general del Reglamento está previsto para el 2 de agosto de 2026, con excepciones y ajustes para ciertos sistemas de alto riesgo.

Qué son los sistemas de IA de alto riesgo

Los sistemas de inteligencia artificial de alto riesgo son aquellos que pueden afectar de forma significativa la salud, la seguridad o los derechos fundamentales de las personas.

Este tipo de tecnologías puede estar presente en sectores como empleo, educación, infraestructuras críticas, salud, servicios financieros, justicia, gestión migratoria, seguridad, acceso a servicios esenciales o productos regulados.

Por ejemplo, una herramienta de IA usada para seleccionar candidatos laborales, evaluar estudiantes, apoyar diagnósticos médicos, conceder créditos o gestionar infraestructuras críticas podría entrar dentro de esta categoría si cumple los criterios del Reglamento.

Controles obligatorios para empresas

Las empresas que operen sistemas de IA de alto riesgo deberán aplicar controles más estrictos antes y después de ponerlos en funcionamiento. El objetivo es evitar decisiones automatizadas opacas, discriminación, errores graves, falta de supervisión humana o riesgos para usuarios y consumidores.

Entre las obligaciones más importantes destacan:

  • gestión de riesgos durante todo el ciclo de vida del sistema;
  • gobernanza y calidad de los datos utilizados;
  • documentación técnica completa;
  • registro automático de actividad;
  • transparencia e instrucciones claras para los usuarios;
  • supervisión humana efectiva;
  • niveles adecuados de precisión, solidez y ciberseguridad;
  • vigilancia posterior a la comercialización;
  • notificación de incidentes graves.

La Comisión Europea explica que, una vez un sistema de alto riesgo está en el mercado, las autoridades se encargan de la vigilancia, los usuarios profesionales deben garantizar supervisión humana y seguimiento, y los proveedores deben mantener sistemas de monitorización posterior.

Fechas clave del Reglamento de IA

Aunque muchas obligaciones generales del AI Act se activan el 2 de agosto de 2026, el calendario de los sistemas de alto riesgo ha tenido ajustes. La Comisión Europea indica que, tras el acuerdo político sobre el paquete de simplificación conocido como AI Omnibus, los sistemas de alto riesgo integrados en productos regulados tendrán un periodo de transición extendido hasta el 2 de agosto de 2028.

Además, la Comisión publicó guías para ayudar a proveedores y usuarios profesionales a clasificar los sistemas de IA de alto riesgo, con ejemplos prácticos y criterios para determinar si una herramienta entra dentro de esta categoría.

Impacto para las empresas europeas

El impacto será especialmente relevante para compañías que ya usan IA en procesos sensibles. Recursos humanos, banca, seguros, salud, educación, seguridad, transporte, energía, administración pública y servicios digitales deberán revisar sus herramientas con mayor cuidado.

No bastará con implementar una solución de IA y medir su eficiencia. Las empresas tendrán que demostrar que sus sistemas son seguros, explicables, controlables y compatibles con los derechos fundamentales.

Esto obligará a crear inventarios internos de IA, clasificar herramientas por riesgo, revisar contratos con proveedores, documentar procesos, formar equipos y establecer mecanismos de auditoría.

Riesgos de no cumplir con el AI Act

El incumplimiento del Reglamento puede tener consecuencias importantes. Dependiendo del tipo de infracción, las sanciones pueden alcanzar millones de euros o un porcentaje relevante del volumen de negocio global anual de la empresa.

Más allá de las multas, el riesgo también es reputacional. Una empresa que use IA de forma opaca, discriminatoria o insegura puede perder confianza frente a clientes, empleados, reguladores e inversores.

Por eso, el cumplimiento normativo no debe verse solo como una obligación legal, sino como parte de la estrategia empresarial de confianza digital.

La IA de alto riesgo en recursos humanos

Uno de los campos más sensibles será el empleo. Las herramientas que filtran currículums, clasifican candidatos, evalúan rendimiento o asignan tareas pueden afectar directamente oportunidades laborales.

Si una empresa usa IA para tomar decisiones sobre contratación o promoción, deberá asegurarse de que el sistema no discrimine por género, edad, origen, discapacidad u otros factores protegidos.

También deberá ofrecer supervisión humana y mantener trazabilidad suficiente para explicar cómo se usa la tecnología.

Salud, educación y servicios esenciales

En salud, la IA puede apoyar diagnósticos, priorizar pacientes, analizar imágenes médicas o recomendar tratamientos. Aunque estas aplicaciones pueden mejorar la eficiencia, también pueden generar riesgos si los datos son sesgados, incompletos o mal interpretados.

En educación, los sistemas automatizados de evaluación o admisión también pueden afectar el futuro de estudiantes. Por eso, el Reglamento exige controles reforzados en áreas donde una decisión automatizada puede tener consecuencias importantes para la vida de una persona.

Cómo prepararse para la nueva regulación

Las empresas deberían comenzar con una auditoría interna de sus sistemas de IA. El primer paso es identificar qué herramientas se usan, en qué áreas, con qué datos, qué decisiones apoyan y quién tiene la responsabilidad de supervisarlas.

Después, será necesario clasificar los sistemas según su riesgo, revisar si cumplen obligaciones del AI Act, formar a los equipos y establecer políticas internas de uso responsable.

También será clave revisar contratos con proveedores tecnológicos para asegurar que existan garantías sobre datos, documentación, seguridad, explicabilidad y cumplimiento normativo.

Una oportunidad para crear confianza

Aunque el AI Act supone nuevos requisitos, también puede convertirse en una oportunidad. Las empresas que adopten IA responsable podrán diferenciarse en el mercado, generar confianza y reducir riesgos legales.

En un contexto donde clientes y reguladores exigen mayor transparencia, cumplir con la normativa puede fortalecer la reputación corporativa y facilitar la adopción de inteligencia artificial en sectores sensibles.