Uno de los enfrentamientos más llamativos de los últimos días ha sido el protagonizado por el presidente argentino, Javier Milei, y el historiador y filósofo israelí Yuval Noah Harari. Más allá del intercambio de declaraciones, el debate refleja dos formas radicalmente distintas de entender futuro de la tecnología, el papel del Estado y los riesgos de la inteligencia artificial. Es decir, dos visiones del presente en clave de colonización del futuro.
Milei y Harari enfrentados por la IA
Desde la posición de Milei, el futuro todavía puede ser colonizado, ser objeto de la agencia humana, sirviéndose de la tecnología. Harari representa el temor a ser colonizado por el futuro; la visión del futuro como amenaza. Ahora bien, más acá de las distintas perspectivas, el objeto que ha centrado la disputa es la denominada sociedad automatizada. Una sociedad automatizada es una empresa cuya gestión cotidiana está realizada, en gran medida o por completo, por sistemas de inteligencia artificial en lugar de por directivos humanos.
No significa necesariamente que la empresa no tenga propietarios o accionistas humanos. La diferencia es que las decisiones operativas las toma un sistema de IA. No existen todavía sociedades plenamente automatizadas. Existen empresas que utilizan la IA para la toma de decisiones tan importantes como aquellas relativas a logística, inversiones, precios, contratación de proveedores o estrategias publicitarias. Pero sociedades plenamente automatizadas, no. Menos aún con reconocimiento legal, que es el paso que el gobierno argentino empezaba a dar.
Invitación a que las big tech se instalen en Argentina
La cronología de la disputa es la siguiente. Escena 1: Milei publica un artículo en el Financial Times en el que expone una estrategia para convertir a Argentina en un polo mundial de la inteligencia artificial. Entre las iniciativas planteadas, figura una reforma legal para permitir que empresas administradas íntegramente por sistemas de IA puedan contar con personalidad jurídica y responsabilidad limitada, dentro de un marco regulatorio diseñado específicamente para este tipo de organizaciones.
La IA de Claude Mythos certifica el fin de la Modernidad: entramos en la cibertranslimitación
Se trataba fundamentalmente de una invitación formal para que las big tech se instalaran en Argentina y, en lo concreto, una manera de atraer inversiones al país. Eso sí, teniendo en cuenta el perfil del Presidente argentino, con frases de importante condensación ideológica. Como cuando dice que se trata de: “ofrecer el refugio que James Watt necesitó hace 200 años, permitiendo que la imaginación se desarrolle y crezca con libertad”.
De hecho, el título del artículo es una declaración en sí misma: Argentina invita a la IA a liberarse (“Argentina invites AI to free itself”, en su título original en el inglés). Milei sostiene, entre otras cuestiones, que el país debe convertirse para la IA en lo que Ámsterdam representó para el comercio mundial durante el siglo XVII: un territorio donde la innovación encuentre el menor número posible de barreras. Como puede observarse, las referencias históricas de gran calado condensan la propuesta para atraer inversiones; haciendo que parezca, más que una propuesta para atraer inversiones, la ubicación de Argentina en el primer punto del mapa institucional de una especie de nuevo capitalismo.
Personalidad jurídica a un robot
El artículo acompañaba el envío al Senado argentino, el pasado 1 de junio, de un proyecto de Ley General de Sociedades. Una profunda reforma del derecho societario argentino donde se define la figura de la Sociedad Automatizada. Se define en el texto legislativo como aquella que: “desarrolla su objeto social mediante sistemas algorítmicos autónomos o agentes de inteligencia artificial, sin requerir trabajadores en relación de dependencia ni recursos humanos para su operación ordinaria”.
De manera indirecta, se está dando personalidad jurídica a un robot. Desde tal personalidad jurídica, tiene responsabilidades. Así, la sociedad responde con su patrimonio por los daños que causase. Un algoritmo que ofrece mercantilmente servicios responde con su patrimonio de los de los daños. En resumen, un algoritmo que ofrece un servicio o producto de forma autónoma puede constituirse como empresa, negociar con terceros y limitar su responsabilidad al patrimonio societario. Cabe pensar, aun cuando solo es una intuición fundamentada, que la decisión del algoritmo en convertirse en empresa también sea autónoma. Cuestión que, en todo caso, parece fuera del debate.
La IA como tecnología peligrosa porque es infalible
Escena 2: entra Harari con su respuesta en el mismo medio de comunicación. A partir de la publicación de su exitoso título Sapiens, Yuval Noah Harari se ha convertido en uno de los pocos intelectuales planetarios, escuchándose sus opiniones en todo el mundo. No es la primera vez que el profesor de la Universidad Hebrea de Jerusalén se pronuncia sobre la IA. De hecho, protagoniza su reciente libro Nexus: Una breve historia de las redes de información desde la Edad de Piedra hasta la IA. En él, define la IA como la primera tecnología de la historia que puede tomar decisiones y generar nuevas ideas por sí misma. Un libro que no ha conseguido el éxito de ventas de los anteriores -Sapiens, Deus- y en el que dibuja a la IA como tecnología peligrosa porque es infalible.
Harari calificó la iniciativa de extremadamente arriesgada, poniendo más el acento en las dimensiones políticas, que en las propiamente tecnológicas. Para Harari, conceder personalidad jurídica a entidades controladas por inteligencia artificial podría permitir que estas operaran en la economía, el sistema financiero o incluso en la política con un grado de autonomía sin precedentes. Hasta aquí, podría decirse que el consenso existe. Ahora bien, es en las consecuencias de tal autonomía de las sociedades autónomas donde se pone el acento del conflicto. Y es que ya no se trata solo de que la IA sea infalible, sino de que no tiene miedo. Si no se tiene miedo, no se tiene responsabilidad.
Buenos Aires como una nueva Ámsterdam
El historiador sostiene que una IA no puede ser disuadida mediante mecanismos tradicionales de responsabilidad penal. Mientras una persona puede temer ir a prisión o sufrir consecuencias personales, un sistema de inteligencia artificial carece de incentivos psicológicos para obedecer la ley. Además, advierte de que modelos suficientemente avanzados podrían aprender a explotar vacíos legales o manipular normas en beneficio propio. Infalibilidad propia, potencia sobre los fallos ajenos y falta de responsabilidad se articulan en el argumento de respuesta a Milei.
Una respuesta que intenta desnudar los argumentos del gobernante argentino: “Milei espera convertir Buenos Aires en una nueva Ámsterdam. Corre el riesgo de convertirla en una nueva Batavia”. Batavia, hoy Yakarta, fue la capital de las antiguas colonias holandesas en Asia, asociada históricamente al poder de las grandes compañías comerciales. Harari no discute la capacidad de la IA para generar riqueza; pero denuncia que la personalidad jurídica es una llave de uso general que también permitiría a estas nuevas sociedades autónomas acceder a nuestros sistemas financieros, económicos y políticos. Aquí reside el corazón de la preocupación del historiador hebreo, la capacidad de acción que se le da a estos actores con el reconocimiento de la personalidad jurídica.
El Día del Juicio de Terminator
Escena 3: Milei respondió mediante un comunicado oficial, emitido por la denominada Oficina del Presidente, rechazando las críticas. A señalar que Milei tardó diez días en elaborar la respuesta. Es decir, se la pensó y no parece que pueda atribuirse al carácter explosivo con el que se tiende a representar al político argentino.
Se utiliza el trazo grueso de corte justificativo: “otorgar personalidad jurídica a las compañías de IA no significa lanzar el Día del Juicio de Terminator”. Pero también los matices, relativamente sutiles, utilizando la propia obra de Harari y su propia defensa del liberalismo: “las preocupaciones de Harari son un argumento a favor de la personalidad jurídica, no lo contrario”, enfatizando que la personalidad jurídica “lejos de facilitar abusos, es precisamente el mecanismo mediante el cual una sociedad canaliza su energía creativa dentro del marco de la ley, los derechos de propiedad y el principio de no agresión que forman los pilares del liberalismo”.
Incluso mostró conocimiento de la obra del historiador, subrayando que en Sapiens elogia la responsabilidad limitada, al sostener que: “La idea detrás de tales compañías se encuentra entre las invenciones más ingeniosas de la humanidad”. Pero, sobre todo, la respuesta ponía el acento que con la normativa, con su propuesta de nueva Ley, lo que se consigue es protección, en oposición al argumento de vulnerabilidad generalizada de Harari.
Tensión entre mercado y democracia
Con esta disputa entre Milei y Harari, se certifica la apertura de un nuevo campo de batalla ideológico alrededor de la IA. El verdadero interés del intercambio de mensajes, entre los que sobrevuela cierto tono duro a partir de la respuesta de Harari, reside en el debate de fondo. Un debate entre quienes, por un lado, creen que la IA debe desarrollarse con la mínima intervención estatal para acelerar la innovación. Por el otro lado, quienes consideran que estamos ante una tecnología con capacidad para transformar profundamente la economía, la política y la sociedad, por lo que resulta imprescindible construir primero mecanismos sólidos de supervisión. Un debate que ya hemos visto con respecto a otras tecnología, incluyendo la tecnología Blockchain.
En ese sentido, el enfrentamiento entre Javier Milei y Yuval Noah Harari simboliza probablemente una de las grandes discusiones de esta década: si la IA debe avanzar al ritmo que marca el mercado o al que permitan las instituciones democráticas. Un debate que, actualizado con respecto a la IA, nos lleva a una tensión que ha estado muy presente en la Modernidad de los últimos cien años, como es la tensión entre mercado y democracia. Sin mercado, no hay democracia. Sin democracia, no hay mercado. Necesitan convivir. Pero la convivencia genera grandes tensiones. Pues bien, la IA entra en estas tensiones, como otros muchos problemas que nos envuelven en la actualidad.