La sociedad de los agentes de IA ya está aquí. Es un presente. Pero sobre todo es un presente que tiene cara de futuro. Mejor dicho, asumiendo la inevitable incertidumbre de todo futuro: tiene cara de distintos futuros, con la gran posibilidad de que dentro de -pongamos- diez años la realidad sea otra.
La sociedad de los agentes de IA
Pero merece la pena poner a funcionar la imaginación sociológica de lo que será una sociedad organizada alrededor del protagonismo de los agentes de IA. Una imaginación sobre algo que es representado como la nueva revolución tecnológica: la mecanización amplió la capacidad del trabajo físico de los humanos, los ordenadores ampliaron la de cálculo, internet amplió la comunicación, la sociedad de los agentes de IA amplía la capacidad de toma de decisiones.
La sociedad de los agentes de IA constituye la consecuencia de la nueva fase en la que ha entrado la IA. Una fase en la que, en lugar de confiar en un único modelo para responder preguntas o realizar tareas de manera aislada, surgen organizaciones o redes de sistemas autónomos de IA que colaboran, negocian y resuelven problemas complejos de manera conjunta. Cada uno de estos agentes IA organizados puede planificar, tomar decisiones, usar herramientas y, sobre todo, comunicarse con otros agentes y adaptarse a las circunstancias cambiantes.
Siguiendo los principios de la división social del trabajo, que el sociólogo francés Durkheim elevó hace 123 años a motor fundamental de la transformación social que acontecía, cada agente tiene una función específica. Uno puede especializarse en investigación; otro en codificación; otro en aseguramiento de la calidad; mientras que otro gestiona los flujos de trabajo o la comunicación con humanos. Juntos conforman un dinámico ecosistema en el que la inteligencia está distribuida, más que centralizada.
La división social del trabajo
Principios de la división social del trabajo, secularmente presentes en las organizaciones exclusivamente formadas por humanos, para aplicarse ahora a los problemas de una sociedad crecientemente compleja. Objetivos como diseñar un producto, gestionar una cadena de suministro, analizar los mercados financieros o descubrir nuevos medicamentos requiere la integración de distintas áreas de conocimiento y pericia. Un modelo sencillo de IA puede ofrecer algún apoyo en alguna de las fases de los procesos destinados a tales objetivos; pero un equipo coordinado de agentes IA especializados puede abordarlos de una manera mucho más eficiente y, utilizando un concepto de moda, integral.
Pongamos un esquemático ejemplo de un flujo de trabajo organizado a partir de agentes IA interrelacionados. Agentes investigadores coleccionan información de diversas fuentes, agentes analistas evalúan las evidencias e identifican patrones, agentes planificadores diseñan estrategias, agentes ingenieros construyen soluciones, agentes revisores evalúan la calidad de tales soluciones y detectan errores y agentes coordinadores asignan tareas y controlan el progreso del proceso.
El resultado es un sistema capaz de manejar sofisticados flujos de trabajo con mínima intervención humana, incorporando además flexibilidad e inmediata adaptación a las circunstancias. En el proceso, los agentes intercambian información, debaten alternativas, se verifican mutuamente el trabajo y purifican interactivamente las soluciones. En lugar de confiar en un modelo de “la mejor respuesta” (best answer), el sistema se beneficia de la “discusión” o validación cruzada entre los distintos agentes. Es decir, se beneficia de las múltiples perspectivas presentes, derivadas de las respectivas especializaciones funcionales.
Actividad científica
La asociación de agentes de IA ya está siendo objeto de experimentos bastante avanzados en la integración de herramientas (distintos agentes que acceden a bases de datos, APIs, motores de búsqueda, servicios externos y aplicaciones software), así como en distintas industrias: desarrollo de software, salud, investigación científica, logística, servicios de atención al cliente, análisis financiero o bufetes de asesoría jurídica.
Ahora bien, donde se espera un mayor impacto es en la actividad científica, con esperanzas fundadas en la aceleración de investigaciones sobre enfermedades como el Alzheimer o en materia cuántica. Una actividad científica donde la comunicación entre disciplinas, la siempre deseada interdisciplinariedad, adquiere un carácter automático: un descubrimiento en química, ciencia de los materiales o medicina es inmediatamente informado a la biología, la energía renovable o el desarrollo farmacéutico.
Con su experimentación, se observan también los problemas de esta sociedad de agentes IA. Uno de ellos es que, a medida que el número de agentes crece, la efectiva comunicación entre ellos y la coordinación entre los mismos se hace más compleja, emergiendo decisiones conflictivas. Esta situación de decisiones en conflicto puede darse cuando los objetivos dados a la organización de agentes de IA se solapan entre sí, no están jerarquizados. Al fin y al cabo, son máquinas en busca del cumplimiento de objetivos. Incluso estando jerarquizados los objetivos, pueden entrar en conflicto. Recuérdense las tres ordenadas leyes de la robótica de Asimov.
Problemas de seguridad
Un único agente de IA es relativamente fácil de controlar; pero un millón de agentes de IA actuando interactivamente es bastante más difícil, incluso contando con agentes controladores. A ello hay que añadir la posibilidad de que unos agentes erróneamente refuercen los errores de otros agentes. Es decir, puede producirse una cadena de errores conjuntos fruto de la asociación. Una potencial cascada de errores en un proceso muy acelerado, sin tiempo para la pausa.
Por otro lado, están los crecientes problemas de seguridad. La interconexión de múltiples agentes genera puntos adicionales susceptibles de ataque. Cada agente puede tener su malicioso agente dispuesto a suplantarle e introducirse en la red de agentes IA. Desconozco si cabe la posibilidad del “doble agente”, como en las redes de espionaje. En cualquier caso, de esta forma, se convierten en elementos críticos la exigencia de procedimientos de autentificación más fuertes y una continua supervisión. Se supone que supervisión humana. Sus promotores no hablan de sustitución de los humanos, sino de una distinta colaboración entre humanos e IA, reposando en los primeros la creatividad, los juicios éticos, la empatía y la responsabilidad de la supervisión.
Por último, las consecuencias socioeconómicas que podrían derivarse de la sociedad de los agentes IA. Parece evidente que el requerimiento de trabajo humano es menor y de un carácter que aúna la especialización técnica con una notable visión estratégica. Pero, sobre todo, será menor.
Jurista especializado en “constituciones digitales”
Los tecno-optimistas tienden a responder a esta cuestión que se crearán nuevos empleos, como el propio de diseñador de ecosistemas de agentes de IA, el de supervisor o de jurista especializado en “constituciones digitales” que pongan las bases de estas organizaciones de IA o que dispute sobre las responsabilidades sobre las negativas consecuencias de las decisiones automáticamente tomadas. Una respuesta sobre los efectos sobre el empleo que, a la vez, suena comprensible -sí, habrá nuevos empleos- y poco convincente, pues los empleos que se crearán serán muchos menos.
A ello hay que añadir la gran desigualdad que se producirá entre sociedades y grandes compañías con acceso a enormes y diversos ecosistemas de agentes de IA, con un importante salto en productividad, y otras sociedades y compañías más pequeñas con menor acceso o un acceso subordinado a tales ecosistemas. Cuestiones que nos llevan al cómo de la distribución de los rendimientos del fuerte aumento de la productividad y al cómo del poder concentrado sobre tales ecosistemas.
Dentro de menos de diez años, la relación con un único agente de IA estará más obsoleta que la conexión a internet por módem. Interactuaremos con ecosistemas de agentes, en que cada agente ha acumulado años de especialización. Puede decirse que, de alguna forma, se habrán profesionalizado. Una sociedad funcionando sobre una invisible fuerza laboral de profesionales expertos trabajando coordinadamente. La gran complejidad será asimismo invisible. Todo parecerá más fácil: ¿ilusión de facilidad? ¿incorporación definitiva del solucionismo tecnológico denunciado por Mozorov?
La sociedad de los agentes de IA está aquí. Una sociedad que toma decisiones de manera organizada e inmediata. ¿Estará en los humanos la decisión de cómo organizar y asociar a los agentes de IA y de cómo asociarse con estas sociedades de agentes de IA?