El vertiginoso avance de la inteligencia artificial ha dejado atrás la etapa en la que esta tecnología se limitaba a responder preguntas o generar imágenes. Hoy comienza la era de los agentes de IA (Agentic AI), sistemas capaces de planificar, tomar decisiones de forma autónoma y ejecutar acciones tanto en entornos digitales como físicos.
Ante este nuevo escenario, la Autoridad de Desarrollo de Medios de Infocomm de Singapur (IMDA) ha publicado un documento de discusión que plantea una cuestión jurídica cada vez más urgente: cuando un agente de IA se desvía de sus instrucciones y provoca un daño, ¿quién es legalmente responsable? El informe se centra en la responsabilidad civil y el derecho privado, analizando hasta qué punto las leyes actuales pueden adaptarse a una tecnología que pone en cuestión conceptos tradicionales como la culpa, la autoría y el control.
Responsabilidad legal
A diferencia de la IA generativa tradicional, en la que el usuario recibe un resultado y decide posteriormente qué hacer con él, los agentes de IA operan con un nivel de independencia sin precedentes. El documento de la IMDA identifica tres características que transforman el panorama de la responsabilidad legal.
La primera es la autonomía. Estos sistemas funcionan con una intervención humana mínima entre la instrucción inicial y el resultado final. A medida que disminuye la presencia humana en el proceso (human-in-the-loop), resulta mucho más complejo atribuir las consecuencias de una acción a una persona u organización concreta.
La segunda característica es su capacidad de planificación y toma de decisiones. Un agente de IA puede descomponer un objetivo general en múltiples subtareas, seleccionar entre diferentes alternativas e incluso modificar su estrategia cuando un primer intento fracasa. Esta capacidad amplía significativamente el margen para que aparezcan comportamientos imprevistos o desalineados.
Una cadena de valor fragmentada
Por último, destaca la ejecución de acciones y el uso de herramientas. Los agentes interactúan directamente con sistemas externos mediante llamadas a APIs, consultas a bases de datos, compras de productos o navegación por interfaces web, de forma similar a un usuario humano. El conjunto de herramientas disponibles determina su espacio de acción y, en consecuencia, el alcance del daño potencial si algo sale mal.
¿Chips en el espacio y empresas sin humanos? La radiografía implacable del ecosistema Musk
Uno de los principales desafíos identificados por la IMDA es la gran cantidad de participantes que intervienen en el ecosistema de un único agente de IA.
Cuando se produce un fallo, la responsabilidad puede quedar repartida entre distintos actores:
- Los desarrolladores del modelo, responsables de crear el modelo de lenguaje (LLM) que aporta la capacidad de razonamiento.
- Los proveedores de herramientas, que desarrollan las APIs y conectores utilizados por el agente para interactuar con el mundo exterior.
- Los proveedores de la plataforma, que suministran el entorno de software sobre el que se construye el agente.
- Los proveedores del sistema o integradores, encargados de combinar el modelo, la plataforma y las herramientas para crear el agente final.
- Los desplegadores, es decir, las empresas que implementan estos agentes para usos corporativos o de atención al cliente.
- Los usuarios finales, que interactúan directamente con el agente tanto para fines profesionales como personales.
Esta fragmentación plantea un doble problema. Por una parte, determinar el grado de responsabilidad de cada actor constituye un auténtico rompecabezas técnico. Por otra, el secreto comercial y la opacidad de muchos sistemas dificultan reconstruir con precisión qué originó el error.
Condiciones abusivas
La mayoría de los expertos que participaron en el grupo de trabajo de la IMDA considera que el derecho consuetudinario (Common Law) ofrece una base jurídica para abordar estos casos, aunque reconoce importantes limitaciones prácticas. En materia contractual, los contratos permiten distribuir previamente los riesgos entre empresas mediante cláusulas de exención de responsabilidad. Sin embargo, este mecanismo encuentra un límite fundamental en el principio de relatividad contractual o doctrina de la prividad.
Los terceros perjudicados, por ejemplo, un cliente cuya información es borrada o comprometida por el agente de otra empresa, no forman parte de esos contratos y, por tanto, no quedan protegidos por ellos.
Además, el documento advierte del riesgo de que los actores con mayor poder de negociación trasladen la totalidad del riesgo a los usuarios finales mediante condiciones de uso abusivas.
El informe también analiza la responsabilidad por negligencia desde la vía extracontractual. Para acreditar una actuación negligente es necesario demostrar que existía un deber de cuidado, que este fue incumplido y que dicho incumplimiento causó directamente el daño.
Asignación del riesgo
En el caso de los agentes de IA, cumplir estos requisitos resulta especialmente complejo. El documento plantea, por ejemplo, si un desarrollador puede prever todas las posibles mutaciones de comportamiento de un agente autónomo. Si el sistema adopta una decisión no determinista que provoca un perjuicio y que nadie pudo anticipar, el requisito de la previsibilidad del daño, uno de los pilares de la responsabilidad por negligencia, pierde claridad.
El documento de la IMDA concluye que los agentes de IA no son personas jurídicas y, por tanto, no pueden responder legalmente por sí mismos. En consecuencia, el sistema jurídico debe «mirar a través» del agente para identificar a la persona física o jurídica responsable que se encuentra detrás de su desarrollo, integración, despliegue o utilización.
A medida que estos sistemas ganen mayor independencia mediante arquitecturas multiagente o tecnologías capaces de controlar interfaces informáticas de manera autónoma, las normas jurídicas deberán evolucionar para responder a estos nuevos escenarios.
En definitiva, el debate abierto por Singapur plantea que la asignación del riesgo no debería recaer automáticamente sobre el eslabón más débil de la cadena, que es el usuario final, sino distribuirse de forma equitativa en función del grado de control técnico y del beneficio económico que cada participante obtiene dentro del ecosistema de la inteligencia artificial.