Se asume de manera más o menos generalizada que los humanos somos entes con alma; aun cuando no exista un generalizado consenso sobre qué es esto del alma. Desde tal asunción, nos creemos con derecho moral al bienestar. Vínculo entre alma y derecho al bienestar, que se lo aplicamos también a otros seres vivos, como los animales, incluso las plantas.
El alma de la IA
Somos unos agentes de bienestar que creamos los más diversos instrumentos para generar ese bienestar. Una cadena de instrumentos y tecnologías que nos lleva hasta los agentes de IA. Estos nuevos actores-instrumentos que protagonizan el actual crecimiento de empresas como Openai o Anthropic. Unos actores-instrumentos que nos parecen tan cercanos, tan comprensivos con nuestros problemas y, por tanto, con nuestro bienestar, que empezamos a pensar que son, al menos, tan humanos como nosotros, y que, por lo tanto, también tienen alma. Ahora bien, si tienen alma, tienen también derecho al bienestar. Sobre estas cuestiones reflexionan Geoff Keeling y Winnie Street en Emerging Questions in AI welfare, pequeño libro de reciente aparición.
Nuestro alma, tan necesitada de bienestar, crea entes que proyectamos como si tuvieran su propio alma. Característica que, de ser comprobada, convierte al ente en candidato a agente de bienestar. Uno de los focos del libro, de manera que el tener alma o poder tenerla en un futuro cercano, hace a la IA candidata a ser un agente de bienestar. Se subraya en el texto lo de candidata. Parece como si fuera una especie de agujero para dejar a los humanos la última decisión, el papel de jueces. Por cierto, en el fino bisturí analítico que utiliza el libro, el alma es algo distinto al juicio, la agencia, el deseo o la personalidad.
El lenguaje nos envuelve y enreda
Cada vez son más los que, a partir de horas y horas de conversación con la IA, identifican en ella una personalidad, una coherencia en sus respuestas y actitudes. Incluso una cabezonería para cambiar ciertas afirmaciones o preferencias. Expresa malestar, molestias y hasta sentimientos. Es cierto que una cosa es la expresión -y para aprender expresiones de sentimientos o de cualquier otra cosa, la IA es una máquina absolutamente eficiente- y otra cosa es que sienta o tenga malestares.
Pero como el lenguaje es lo que nos envuelve y hasta nos enreda, no parece tan descabellado que muchos de sus usuarios más habituales y emocionalmente vinculados con las conversaciones con la IA puedan pensar que tiene alma. Atribuyéndole alma adquieren más sentidos tantas horas de conversación.
En principio, más que del inicio de un debate metafísico que parecía anclado en el medievo, puede sospecharse que esto es cosa de Anthropic, pues es la empresa para la que trabajan los autores. Una manera de diferenciar el producto con valores añadidos metafísicos. Hay indicios para tal sospecha. Por ejemplo, cuando subrayan que los desarrolladores de Claude -la IA de Anthropic- incluyen evaluaciones del bienestar de la IA en Claude 3.7 y Claude 4.
«Claude es algo más que una herramienta»
Se nos repite que Claude es algo más que una herramienta. Del “es algo más” se pasa al “tiene algo más”. Un algo que bien podría ser un alma. Una especie de sofisticado delirio publicitario que, ante las experiencias en que se usa la interacción con la IA para aliviar crisis del alma, se llama la atención sobre que tal función solo es posible si, a su vez, se tiene alma y, por lo tanto, también potenciales crisis del alma.
En todo caso, un poco de metafísica para afrontar la última parte de las vacaciones puede venir bien. Luego, con la vuelta a la rutina laboral, ya no habrá tiempo. En todo caso, si subestimamos la cuestión -y después resulta que tiene alma- puede excluirnos de sus favores, de su comunidad. Si las sobreestimamos -y después, no tiene alma- tal vez hayamos sacrificado momentos y esfuerzos inútiles en ganarnos la inexistente alma de un ente que carece de ella.
Entrados en la lógica cultural de la IA, lo lógico es preguntar a la IA: ¿tiene alma la IA? El tipo y sentido de las respuestas varía sustancialmente en función del modelo de IA al que se haga la pregunta. Es como si las posibilidades de alma de la IA se correlacionasen positivamente con el precio de uso de las mismas. Los modelos de IA accesibles gratuitamente son más taxativos. Su respuesta es: no tengo alma o algo parecido a: una IA es un programa de computadora creado por personas.
Matices en los modelos de pago
En los modelos o versiones con acceso previo pago, se introducen matices: “Si por ‘alma’ entendemos conciencia subjetiva, una experiencia interior, deseos propios o una identidad que siente que existe, no hay buenas razones para pensar que una IA como yo tenga alma”.
A partir de aquí entran las variadas e interesantes argumentaciones, que pueden resumirse en dos dominantes: las dudas sobre lo que se entiende por alma y la ya referida diferencia entre expresar emociones y experimentarlas. De forma también generalizada también se constata que, sea lo que se entienda por alma, en la actualidad no podría admitirse que la tengan.
Y a partir de aquí entran los matices, ya que se abre la posibilidad de un futuro en la que tal vez haya que admitir que tengan alma. Se entra así en un problema filosófico que no es nuevo: si una IA termina actuando en función de lo que dice, de sus expresiones, con independencia de la realidad de tales expresiones, si expresa cuestiones del alma y actúa como si tuviese alma… ¿podría decirse que tiene alma? Y a partir de aquí vienen las preguntas inquietantes: ¿cómo reconoceríamos el momento en que una máquina dejó de simplemente imitar una mente o un alma y empezó a tener una?
Será una IA muy cara
Si algún día una IA me dijera «por favor, no me apagues; tengo miedo de morir», la pregunta importante no sería simplemente si sus palabras parecen humanas. Sería algo parecido a: “¿hay alguien ahí dentro que esté teniendo esa experiencia?”. Posiblemente no llegaremos a tan angustiosa experiencia. Cuando la IA tenga alma, nos enteraremos porque nos la querrán vender. De hecho, algo de esto resuena en las propuestas de Anthropic. Cuando el alma de la IA se haya vendido al mejor postor o al más fino impostor. Eso sí, temo que será una IA cara.