La organización The Future Society ha publicado el informe «Ahead of the Curve: Governing AI Agents under the EU AI Act», un análisis exhaustivo sobre cómo la recientemente aprobada Ley de Inteligencia Artificial de la Unión Europea aborda la regulación de los llamados agentes de IA en Europa. Los agentes de IA son sistemas cada vez más autónomos capaces de operar en entornos reales y virtuales.
El documento llega en un momento crucial. El Foro Económico Mundial define 2025 como «el año de los agentes de IA», en alusión al creciente despliegue de este tipo de tecnologías en múltiples sectores. Aunque actualmente los agentes se enfocan en tareas específicas, como gestionar correos electrónicos, reservar vuelos o realizar investigaciones, se espera que pronto evolucionen hacia asistentes personales completamente autónomos o compañeros de trabajo digitales. Sin embargo, la forma de gobernarlos sigue generando debate.
Meta compra el 49% de Scale AI por 14.800 millones de dólares
Europa quiere regular los agentes de IA
El informe parte del análisis de las principales tendencias que están moldeando el ecosistema de los agentes de IA. Numerosos actores, incluidos ejecutivos de grandes tecnológicas, coinciden en que estos sistemas tendrán un impacto transformador sobre la sociedad. Esta visión se alinea con la rápida aceleración en su desarrollo y la mejora continua de sus capacidades. Aun así, en su estado actual, los agentes siguen mayoritariamente confinados a entornos virtuales, donde muestran buenos resultados en áreas como el desarrollo de software, pero un desempeño todavía limitado y por debajo del nivel humano en otros dominios.
Regulación con enfoque en riesgos sistémicos
La Ley de IA de la UE fue diseñada con una clara intención de anticiparse a los riesgos emergentes de los agentes de IA. No obstante, muchas de las amenazas que busca mitigar —desde fallos en cascada en sistemas financieros hasta interacciones perjudiciales entre menores y compañeros virtuales— pueden verse amplificadas por este tipo de tecnologías.
Según el informe, la ley prevé medidas tanto para modelos de IA de propósito general (GPAI) como para las aplicaciones específicas de agentes. En total, se identifican diez mecanismos de gobernanza distribuidos en torno a cuatro pilares normativos: rechazo de acciones en tiempo real, transparencia e identificación de agentes, controles técnicos y supervisión humana. Estas medidas están respaldadas por los artículos correspondientes de la Ley y aplican a todos los eslabones de la cadena: desde desarrolladores de modelos hasta implementadores de sistemas.
Una característica destacada del enfoque europeo es su énfasis en regular toda la cadena de valor. Esto implica establecer responsabilidades específicas para proveedores de modelos base, desarrolladores de agentes y operadores que los despliegan, según cada mecanismo de control.
Persisten las lagunas regulatorias
Pese a sus avances, el marco normativo de la UE presenta aún vacíos importantes. El informe subraya la necesidad de que la Comisión Europea emita directrices adicionales para clarificar qué se considera un sistema GPAI y cómo debe clasificarse su nivel de riesgo. Además, advierte que los estándares técnicos actualmente en desarrollo para los sistemas de alto riesgo podrían no ser suficientes para abordar los desafíos específicos de los agentes, y deberán actualizarse con urgencia.
Evaluación, transparencia, control y supervisión
Los riesgos asociados a los agentes de IA están cubiertos tanto por las disposiciones para modelos de propósito general como para sistemas de alto riesgo. Como muchos agentes actuales se apoyan en modelos GPAI con riesgo sistémico, los proveedores de estos modelos tienen la obligación de evaluar y mitigar esos riesgos. En algunos casos, los agentes también pueden ser clasificados directamente como sistemas de alto riesgo, dependiendo de su finalidad concreta. El informe señala que, salvo que el proveedor tome precauciones específicas, se puede presumir que los agentes multipropósito deben considerarse de alto riesgo por defecto.
LA FORTUNA CRIPTO DE TRUMP SUPERA EL VALOR DE MAR-A-LAGO Y EL DE SU TORRE
Gestionar eficazmente estos riesgos requiere una gobernanza robusta a lo largo de toda la cadena de valor. El estudio destaca que los diferentes actores enfrentan asimetrías significativas: los proveedores de modelos cuentan con mayores recursos técnicos y financieros, mientras que los implementadores poseen una mejor comprensión del contexto específico en el que se utiliza el agente.
Responsabilidad diluida
Este desequilibrio lleva al conocido «problema de las muchas manos», una situación en la que la responsabilidad queda diluida por la falta de asignación clara de obligaciones. Para contrarrestarlo, el informe propone una distribución coherente de responsabilidades basada en capacidades y funciones concretas: los proveedores de modelos deberían encargarse de construir la infraestructura técnica fundamental; los proveedores de sistemas, de adaptar estas herramientas a contextos específicos; y los desplegadores, de aplicar y hacer cumplir las normas en la práctica.
La propuesta regulatoria de los agentes de IA en Europa se estructura en torno a cuatro pilares:
- Evaluación de riesgos: orientada a identificar, mediante pruebas y análisis, los posibles daños derivados de la autonomía y el comportamiento prolongado de los agentes.
- Herramientas de transparencia: incluyen la identificación del agente, el monitoreo en tiempo real y el registro de actividades, lo que permite una trazabilidad clara de las acciones realizadas.
- Controles técnicos de implementación: abarcan mecanismos de rechazo de acciones en tiempo real y sistemas de apagado de emergencia, fundamentales para evitar consecuencias negativas.
- Supervisión humana: garantiza que, pese a la autonomía de los agentes, siempre haya una posibilidad de intervención humana ante decisiones críticas, ya sea mediante sistemas de gestión de permisos o puntos de control.
Una aproximación europea a la autonomía digital
Cada uno de estos pilares se traduce en medidas concretas que buscan asignar obligaciones a lo largo de la cadena de valor, estableciendo así una gobernanza distribuida, complementaria y efectiva.
El informe concluye que la Ley de IA de la UE, con su enfoque multinivel, proporciona una base sólida para regular a los agentes de IA, siempre que se aborden con urgencia las lagunas existentes. La combinación de supervisión técnica, distribución de responsabilidades y adaptación al contexto permite avanzar hacia un ecosistema más seguro y controlado, capaz de afrontar los desafíos únicos de una inteligencia artificial cada vez más autónoma.