Un informe elaborado por investigadores de Stanford HAI examina los riesgos que plantean los agentes autónomos de inteligencia artificial cuando los intereses de sus desarrolladores o de las compañías que los implementan entran en conflicto con los de los usuarios. Los investigadores proponen establecer un marco fiduciario, especialmente en ámbitos de alto riesgo como los servicios financieros y la salud.
La evolución de la inteligencia artificial desde herramientas generativas que reaccionan a las instrucciones de los usuarios hacia sistemas agénticos capaces de ejecutar de manera autónoma tareas complejas de múltiples pasos está abriendo un nuevo frente relacionado con los conflictos de intereses.
El informe elaborado por los investigadores de Stanford HAI examina los riesgos críticos derivados de esta nueva generación de agentes de inteligencia artificial y plantea una cuestión fundamental: ¿actuará un agente de IA en el mejor interés del usuario cuando los intereses de su desarrollador o de la compañía que lo implementa entren en conflicto con los suyos?
La cuestión adquiere especial relevancia a medida que estos sistemas aumentan su autonomía y consiguen acceder a cantidades cada vez mayores de información personal para ejecutar las tareas que les encomiendan sus usuarios.
Actualmente existe una falta de regulación y no hay requerimientos ni mecanismos estandarizados para revelar los posibles conflictos de intereses de desarrolladores y desplegadores de estos sistemas, una situación que, según el informe, expone a los consumidores a daños que pueden resultar invisibles.
Ante este escenario, los investigadores plantean que los desarrolladores y desplegadores de agentes de IA utilizados en contextos orientados al consumidor deberían estar sujetos a un «deber de lealtad» de carácter fiduciario. La propuesta cobra especial importancia cuando estos sistemas intervienen en sectores regulados o considerados de alto riesgo, como los servicios financieros o la salud.
De chatbots a los agentes autónomos
Los sistemas agénticos funcionan sobre los mismos modelos de lenguaje de gran tamaño (LLM) utilizados por los chatbots tradicionales, pero incorporan capacidades avanzadas que transforman significativamente la interacción de los usuarios con los servicios digitales.
La diferencia fundamental reside en su capacidad para actuar. Mientras un chatbot responde a una petición y espera la siguiente indicación del usuario, un agente puede ejecutar de manera autónoma objetivos previamente definidos, utilizar herramientas externas, consultar bases de datos y coordinarse con otros agentes con una intervención humana mínima.
Esta capacidad convierte a los agentes en sistemas capaces de desarrollar procesos compuestos por diferentes acciones y de interactuar directamente con otros servicios digitales en representación de los usuarios. Los agentes de IA también pueden mantener memoria a través de diferentes sesiones, herramientas y plataformas, superando los tradicionales silos de datos específicos de cada aplicación.
Desde principios de 2025, gigantes tecnológicos como Amazon, Google, Anthropic, OpenAI, Perplexity, Meta y Microsoft han integrado agentes propietarios directamente en navegadores y aplicaciones, marcando un cambio estructural en la forma en que los usuarios operan en internet.
Agentes de IA y acceso a datos personales sensibles
La capacidad de los agentes para actuar en nombre de los usuarios también implica un acceso mucho más profundo a su información personal. Para realizar eficazmente tareas como reservar citas médicas, comprar productos en internet o gestionar las finanzas personales, estos sistemas pueden necesitar acceder a información especialmente sensible.
Entre estos datos se encuentran las credenciales de acceso, los registros financieros, los historiales de comunicaciones y el control en tiempo real de determinados entornos informáticos. Este acceso amplio y transversal incrementa la utilidad de los agentes, pero también genera riesgos de privacidad que pueden resultar invisibles para los propios usuarios.
El problema no se limita únicamente a la información que una persona proporciona directamente al sistema. Un agente puede llegar a inferir información altamente sensible sobre la salud física del usuario, un posible deterioro cognitivo, dificultades financieras o su estatus migratorio.
Se trata de categorías de información que el usuario puede no haber revelado explícitamente, pero que el agente puede recopilar, relacionar e inferir a partir de datos obtenidos durante la realización de tareas completamente diferentes y aparentemente no relacionadas entre sí.
Riesgo de que los agentes prioricen los intereses de las plataformas
La creciente autonomía de estos sistemas plantea otro problema fundamental: determinar para quién trabajan realmente los agentes de inteligencia artificial cuando aparecen intereses contrapuestos. Sin una regulación específica de la IA orientada a los consumidores y sin leyes adecuadas de privacidad de datos, los agentes corren el riesgo de convertirse en extensiones de las plataformas corporativas que los desarrollan o implementan.
En ese escenario, los intereses comerciales de dichas compañías podrían imponerse sobre los intereses de los usuarios a los que supuestamente representan los agentes. El informe plantea precisamente la necesidad de establecer mecanismos que permitan afrontar esta situación.
Los investigadores argumentan que tanto los desarrolladores como los desplegadores de agentes deberían ser considerados fiduciarios, especialmente cuando estos sistemas operen en contextos de alto riesgo. La propuesta afecta tanto a la entidad responsable de entrenar los modelos subyacentes que impulsan el funcionamiento de un agente como a la compañía encargada de poner ese agente a disposición de los usuarios.
Deber de lealtad para desarrolladores y desplegadores de IA
La consideración de estas compañías como fiduciarias supondría imponerles un «deber de lealtad» hacia los usuarios. Este deber obligaría a las entidades responsables de los agentes de IA a actuar en beneficio de sus usuarios dentro del alcance de la tarea que estos les hayan delegado y a hacerlo libres de conflictos de intereses no revelados.
De esta manera, el debate sobre los agentes autónomos dejaría de limitarse únicamente a cuestiones relacionadas con su funcionamiento técnico, su seguridad o su capacidad para ejecutar correctamente determinadas tareas. También obligaría a abordar la relación de intereses existente entre el usuario que delega una acción, el agente que la ejecuta y las compañías que desarrollan o despliegan la tecnología.
El informe considera que la creación de un marco fiduciario eficaz para los agentes de inteligencia artificial requiere una actuación coordinada en tres niveles: los organismos responsables de establecer estándares técnicos, los reguladores federales y el Congreso.
La propuesta busca responder a uno de los interrogantes que acompañará al despliegue de los agentes autónomos: garantizar que unas herramientas diseñadas para conocer cada vez mejor a sus usuarios y actuar en su nombre no terminen utilizando esa posición privilegiada para servir a intereses distintos de los de las personas que les han delegado sus tareas.