Las malas compañías de tu agente de IA, el riesgo que nadie ve venir
Las malas compañías de tu agente de IA, el riesgo que nadie ve venir

Las malas compañías de tu agente de IA, el riesgo que nadie ve venir

Moltbook es el sitio donde los distintos agentes de IA interactúan, intercambian datos y ejecutan tareas complejas de forma autónoma. Así de claro lo definió el pasado jueves José Maldonado en Observatorio Blocchain. Un sitio donde estos nuevos entes, los agentes de IA, actúan de forma autónoma. Una actuación en nombre de alguien, que es el que supuestamente le da identidad.

Un alguien, un nosotros-humanos, que se convierte en referencia, en lo más parecido a la realidad, de ese actuar de los agentes de IA. Posiblemente, al menos por un tiempo inicial, nos convierte en certificadores de las acciones llevadas a cabo por nuestro agente y, de esta manera, en responsables. En última referencia de la culpa. Pues parece que de lo único que no nos librarán estos agentes es de la culpabilidad. Eso que muchos filósofos, a lo largo de la Historia y en especial los que han mantenido frontal diálogo con Nietzsche, es lo que diferencia al ser humano del resto de entidades.

Todas estas cuestiones ponen en jaque el concepto de identidad, pues, al fin y al cabo, lo que nos convierte en unidad, lo que nos unifica, es la responsabilidad y la culpa. Pero, a partir de aquí, las preguntas se suceden: ¿hasta qué punto nuestro agente IA o nuestros agentes IA, pues no hay problema para que sean varios, actúan por nosotros? ¿hasta qué punto nosotros no actuaremos en función de las decisiones que toman nuestros agentes IA? En definitiva: ¿quiénes somos? ¿nuestro agente IA? Pues sí, en buena parte. Nuestra identidad digital ya no será una figura, más o menos lograda, a la que manipulamos “por detrás” como a una especie de títere o marioneta. Será un ente autónomo que actúa por nosotros, como parte de nuestra identidad y fuente de nuestra responsabilidad, pero decide por sí mismo.

Meta compra Moltbook para ser el DNI de la economía agéntica

Se abre un mundo nuevo y, sobre todo, una gran oportunidad de negocios para los despachos de abogados, con esto de la responsabilidad. Aunque es posible que se trate de despachos de abogados cuyas tareas las hagan principalmente agentes de IA, ya sea para demandar o para defender a las referencias humanas de los comportamientos de otros agentes IA, que decidieron por sí mismos, pero en nombre de otros, de esas referencias humanas.

De momento, Moltbook ha sido adquirida por Meta, empresa que viene apostando desde hace tiempo por esos espacios alternativos o virtuales, donde la imaginación puede confundirse con la realidad, pero con previsibles efectos reales. Ya se sabe lo que le atraen a Zuckerberg las lógicas del metaverso, de la creación de avatares o dobles virtuales, y cosas como El problema de los tres cuerpos, novela incluida en una trilogía que acaba con el simbólico título: El fin de la muerte. Porque esta es otra cuestión: ¿qué pasará con nuestros agentes IA, los que nos representan, cuando hayamos muerto? ¿podrán seguir actuando en nuestro nombre?

El punto fuerte de Moltbook son las denominadas habilidades (skills), que son extensiones, de carácter modular, que se van añadiendo a los agentes. Así, módulo a módulo de habilidades, empiezan por analizar nuestras finanzas, gestionar nuestras aplicaciones, contestar al teléfono con nuestra voz y, tal vez, sobrevivirnos. Un alter ego de gran capacidad de actuación. Sobre todo, más rápido, eficaz y menos perezoso. Ya no se trata solo de un agente con el que hablemos, siempre tan comprensivo, sino que ejecuta.

Estos nuevos agentes de IA aprenden, es un decir, módulo a módulo. Es decir, añaden habilidades concretas a sus capacidades. Una vez añadida, inmediatamente la pueden ejecutar. Tal vez, el aprendizaje futuro de los humanos sea así, paquete a paquete de instrucciones para realizar tareas. Aunque, si estas tareas las van a realizar los agentes IA mucho más eficazmente, para qué aprender. Se les añade el módulo y ya está.

El gran horizonte para la imaginación reside en la capacidad de estas máquinas para operar con otras máquinas. Así, las IAs pueden compartir entre ellas sus propias skills. Incluso crearlas y probarlas. Una máquina IA crea una nueva skill y las demás pueden adoptar la novedad. Eso, al menos que nuevamente los abogados pongan sus brazos en jarras y aludan a los derechos de propiedad intelectual. Derechos que, por supuesto, reclamará el “parásito” humano de la IA creadora de las skills. Uno será lo que sea capaz de hacer su máquina, su clon maquínico, su IA. Ya la pregunta no es tanto cuánto podrán clonar estas máquinas de nosotros mismos, sino cuánto podremos clonar nosotros de las habilidades de nuestras IAs.

En el principio de la relación, nuestros agentes de IA aprenderán de lo que hacemos, de nuestras tareas registradas digitalmente. De nuestros flujos de trabajo y nuestras formas de trabajar. Asumirá hasta nuestra forma de hablar. En definitiva, aprenderá a actuar como un humano, con nuestros criterios. Poco a poco, se nos irá pareciendo, y así le aumentaremos los respectivos permisos para que vaya tomando decisiones. Después, la relación tenderá a invertirse, seremos nosotros los que aprenderemos de nuestros agentes de IA. Seremos nosotros los que nos pareceremos a una máquina que empezó pareciéndose a nosotros.

El peligro, repitiendo una historia que ya conocemos, está en las compañías y colaboraciones maquínicas de nuestro agente de IA. El peligro viene siempre de las malas compañías. Si se junta como malotes agentes de IA, puede ponernos en riesgo. Por eso, algunos piensan que lo mejor es que no entre en contacto con el módulo de socialización y colaboración con otras máquinas, aun cuando tal decisión podría constituir un gran obstáculo para su desarrollo y potencial para desarrollar nuevas capacidades. En cualquier caso, conviene estar encima de nuestro agente IA y comprobar que respeta las directrices de seguridad. Un proceso muy humano, demasiado humano.

Comparte esto: