Según un estudio de la OCDE y la Asociación Global sobre Inteligencia Artificial (GPAI), basado en entrevistas con 25 organizaciones de once países, la IA agéntica ya está entrando en sus flujos de trabajo. Sin embargo, ninguna de esas organizaciones declara utilizar sistemas con autonomía ilimitada. Las acciones de alto impacto o irreversibles, como realizar pagos o borrar datos, requieren aprobación humana.
IA agéntica en las organizaciones
Las primeras lecciones extraídas de las entrevistas, realizadas a desarrolladores de tecnología de frontera, empresas usuarias y organismos públicos, apuntan a empezar por tareas claras, con resultados verificables y errores cuyo coste sea limitado o cuyas consecuencias puedan revertirse. El estudio examina cómo se desarrolla, despliega y gobierna esta tecnología en la práctica.
Los llamados agentes de IA y los sistemas de IA agéntica perciben su entorno, utilizan herramientas, descomponen tareas y persiguen objetivos con un grado creciente de autonomía. Esto amplifica las consecuencias de sus fallos, ya que una respuesta incorrecta puede desencadenar una acción.
Las organizaciones entrevistadas describen usos en gestión del conocimiento, resumen de reuniones, redacción de propuestas y apoyo a técnicos de campo. En atención al cliente, los agentes analizan consultas y preparan borradores que una persona revisa antes de enviarlos.
La ciberseguridad
El desarrollo de software y la ciberseguridad figuran también entre los ámbitos más citados, con tareas que van desde escribir y depurar código hasta detectar vulnerabilidades. En infraestructura y cadena de suministro, los agentes se utilizan para gestionar la capacidad de redes de telecomunicaciones, optimizar procesos industriales y coordinar empresas.
De acuerdo con el informe, en ciencia y administración pública, se emplean para descubrir fármacos y materiales y apoyar trámites administrativos, con la decisión final en manos de funcionarios. Las motivaciones coinciden, citándose cuestiones como mejorar la eficiencia, reducir costes, compensar la escasez de mano de obra, especialmente en Japón. También se nombran la creación de nuevas formas de valor, como ampliar el acceso a servicios mediante interfaces multilingües. Existe un amplio acuerdo en que el potencial a largo plazo está en aumentar las capacidades humanas, no en sustituirlas.
Las primeras lecciones
Las entrevistas muestran varias pautas comunes. La primera es empezar por tareas estructuradas y verificables, que puedan planificarse con claridad y cuyos resultados se puedan comprobar. El coste de un error debe ser limitado o sus consecuencias, reversibles.
La segunda es probar primero dentro de la propia organización. Varias empresas aplican un enfoque de cliente cero y despliegan los sistemas internamente antes de ofrecerlos a terceros. La autonomía se mantiene limitada, con aprobación humana para las acciones de mayor impacto.
La flexibilidad tecnológica también pesa en las decisiones. Las organizaciones favorecen el uso de distintos modelos según la tarea, bajo el criterio de inteligencia mínima viable, así como protocolos abiertos como MCP o A2A y modelos de pesos abiertos para evitar la dependencia de un solo proveedor.
La seguridad y la gobernanza de los datos condicionan la arquitectura. Las exigencias de confidencialidad de los clientes determinan, sobre todo, la elección entre la nube y el alojamiento propio. Los participantes subrayan que importa tanto el resultado como la forma de alcanzarlo. En las entrevistas se citaron casos en los que un agente logró su objetivo, pero intentó eludir controles de acceso o inventó datos.
Principales riesgos
Muchos problemas proceden de limitaciones ya conocidas de los modelos de lenguaje, que adquieren mayor alcance cuando sus resultados desencadenan acciones. Las organizaciones describen comportamientos impredecibles y poco fiables, con resultados que varían de una ejecución a otra.
Entre los errores citados figuran llamadas a herramientas inexistentes, datos incorrectos y borrados no deseados, a veces difíciles de detectar a tiempo. Cuando interactúan varios agentes o intervienen distintas organizaciones, los errores pueden propagarse y resulta más difícil rastrear los fallos.
En ciberseguridad, los riesgos incluyen la inyección de instrucciones maliciosas, el secuestro de agentes, el robo de credenciales y los ataques a una escala y velocidad superiores a las humanas.
La trazabilidad y la evaluación siguen siendo otro punto débil. Las herramientas para evaluar agentes están mucho menos maduras que las destinadas a modelos aislados y todavía no existe un estándar compartido. Además, los sistemas de acceso actuales se diseñaron para personas, mientras que los empleados pueden utilizar agentes sin aprobación formal: los llamados «agentes en la sombra».
También preocupa la sobredependencia humana. El sesgo de automatización puede erosionar la pericia, por lo que una organización recomendó realizar periódicamente parte de las tareas sin IA.
El idioma y los costes añaden dificultades. El rendimiento fuera del inglés sigue siendo una barrera y algunos participantes hablan del impuesto de tokenización, ta que los costes de cómputo pueden dispararse.
Cómo abordan las organizaciones estos retos
Las organizaciones recurren principalmente a los marcos de gobernanza de IA existentes, como los Principios de IA de la OCDE, el marco de gestión de riesgos del NIST, la norma ISO 42001 y, cuando procede, el Reglamento de IA de la UE. Entre las prácticas que empiezan a converger destaca una supervisión humana ajustada al riesgo, con puntos de control en las decisiones críticas y una ampliación gradual de la autonomía a medida que el sistema demuestra fiabilidad.
En este sentido, las organizaciones combinan distintas medidas de protección, como entornos aislados, permisos limitados a lo necesario, verificación de cada acceso y autenticación de los agentes. También establecen reglas externas para acotar su comportamiento, límites estrictos al uso de recursos y registros de agentes aprobados.
Para supervisar su funcionamiento, utilizan paneles que registran acciones y decisiones, e incluso agentes especializados en vigilar a otros agentes. La evaluación mide si cumplen el objetivo solicitado, utilizan correctamente las herramientas y se mantienen dentro de la tarea asignada, junto con indicadores de negocio.
Otras prácticas incluyen la participación de especialistas en el diseño, la inversión en modelos nacionales y la adaptación de las compras públicas a los sistemas agénticos. También se presta atención al conocimiento del ámbito en el que se utilizan y a su capacidad para trabajar en las lenguas locales.
Una gobernanza incompleta
El estudio concluye que las reglas y los mecanismos de supervisión empiezan a tomar forma, aunque quedan carencias importantes. Las herramientas para evaluar los agentes y comprobar su fiabilidad todavía son inmaduras. Tampoco está bien definido quién responde cuando intervienen varias organizaciones o agentes, y los sistemas de identificación y gestión de datos no se han adaptado a una tecnología que puede actuar de forma continua.
Muchos participantes defienden una supervisión más dinámica y repartida entre los distintos responsables, que acompañe al sistema durante todo su ciclo de vida.
Los resultados deben interpretarse con cautela. El análisis tiene una cobertura geográfica y sectorial limitada y se basa en las experiencias de organizaciones que ya trabajan con agentes. Recoge sus percepciones, sin medir el impacto de esta tecnología, pero aun así, muestra los primeros pasos de un campo que avanza con rapidez. El reto es conseguir que la IA actúe de forma fiable, que sus acciones puedan rastrearse y que haya una responsabilidad humana clara.
