La explosión social de la inteligencia artificial (IA) y el derivado desconcierto del conjunto de la sociedad, ha abierto la demanda de reflexión de amplio vuelo. La sociedad parece necesitada de un pensamiento que ofrezca algunas briznas de sentido al momento que vivimos. A veces, son los propios impulsores y grandes desarrolladores de la IA los que se sientan y nos ofrecen su visión del mundo. Nos dan su filosofía de la IA.
Las empresas de IA necesitan filósofos
Es el caso de Dario Amodei, CEO de Anthropic, y sus pequeños ensayos en su blog, donde nos habla de los beneficios de la aplicación de la IA y sus grandes riesgos. En otras ocasiones, son los profesionales de la filosofía los que se arremangan y ofrecen sus grandes dudas y pequeñas certezas. De alguna manera, son los que aceptan el reto de pensar el mundo actual de una manera profunda. Entre estos, la cuestión ética es central; pero también la epistemológica (cómo conocemos) o la lógica (cómo razonamos). Por último, se encuentran otros filósofos de profesión que han decidido trabajar para quienes impulsan esta tecnología. Filósofos que especialmente se dedican a responder si es posible una consciencia artificial.
Esta semana hemos podido leer en The New York Times un artículo de Benjamin Wallace, titulado “The Revenge of the Philosophy Majors” que habla de como las principales compañías de inteligencia artificial (IA) -Google, Claude, Anthropic o DeepMind- están contratando filósofos.
La sociedad de los agentes de IA: Cuando las máquinas empiezan a debatir entre sí
Entre los nombres al servicio intelectual de las productoras de inteligencia artificial se encuentran: Robert Long (anterior investigador de la Universidad de Oxford y no confundir con el asesino en serie de los años ochenta, trabaja para Eleos AI, vinculada principalmente con Anthropic), Geoff Keeling (proveniente de las universidades de Londres y Cambridge, ahora trabaja para Google), Iason Gabriel (proveniente de la Universidad de Oxford, trabaja en DeepMind), Patrick Butlin (como varios de los anteriores, viene de Oxford y trabaja para Eleos AI) o Amanda Askell (formada en Escocia y trabajando para Anthropic). Buena parte de ellos formados originalmente en Reino Unido, aunque complementando estudios en Estados Unidos.
La posibilidad de que la IA desarrolle consciencia
Entre estos filósofos que trabajan directa o indirectamente para las grandes compañías de IA, dominan los preocupados en la posibilidad de que la IA desarrolle consciencia. De hecho y aunque parece difícil pensar que una máquina tenga consciencia, están generando una amplia consciencia sobre la consciencia de la máquina en la sociedad. No deja de ser una forma de desarrollar consciencia. Uno de sus principales focos se encuentra en la analogía entre la consciencia y el software, bajo una asunción asumida en distinto grado: la consciencia puede funcionar tanto sobre una red de chips semiconductores como sobre un tejido neuronal.
Una de las más antiguas disciplinas, se aplica a la tecnología más puntera, en un sorprendente bucle, como se apunta en el propio artículo tomando el concepto del historiador y filósofo de la ciencia Douglas Richard Hofstadter (autor de uno de los libros más influyentes de los últimos decenios: Gödel, Escher, Bach). Ahora bien, teniendo en cuenta el foco dominante de estos filósofos, qué preguntas se hacen.
Como ocurre con los nuevos modelos de IA, la cuestión tiene que ver con el lenguaje. Por ejemplo, el que una IA diga que siente miedo no quiere decir que experimente miedo, sino que ha aprendido esta respuesta para determinados contextos y circunstancias. Imitan, cada vez más perfectamente, el lenguaje que utilizamos para describir nuestra vida interior. Tal vez el problema esté en preguntar -y, en cierta forma, asumir- que puede llegar a sentir miedo. El problema está en nosotros, en nuestras preguntas.
La conciencia percibida en la IA
Pues bien, enlazando con lo anterior, precisamente una de las principales cuestiones que centran la investigación filosófica, ahondando en esta lógica reflexiva, ya no es tanto si la IA es consciente, sino por qué los humanos creemos que lo es, cuando no lo es.
La conciencia percibida en la IA, por parte de los humanos, se ha convertido en un problema, pues hacemos a la IA más consciente de lo que es. Tal vez se entienda mejor con el siguiente esquema: 1) el modelo de IA produce lenguaje antropomórfico, que incluye expresión de sentimientos; 2) el humano lo interpreta como consciencia; 3) el humano, a partir de tal atribución de consciencia, actúa de manera diferente (como si la tuviera); 4) el modelo de IA responde, a su vez, adaptándose a la nueva interacción con el humano; 5) el modelo de IA parece aún más consciente. Un esquema que se convierte en un círculo: ¿vicioso o virtuoso? Es como si la IA acabara teniendo consciencia porque interactuamos con ella como si la tuviera. La simulación práctica produce la realidad.
Más recientemente la investigación filosófica se encamina a lo que se ha denominado funcionalismo. Es donde se encuentran la mayoría de los filósofos a los que alude el artículo de Wallace. Su hipótesis es que dos sistemas pueden tener el mismo tipo de experiencia, si tienen la misma organización causal relevante, independientemente del material. Es decir, independientemente de que sean neuronas o hardware. De esta manera, si las neuronas son la base de la consciencia, el hardware artificial más una organización (arquitectura) causal apropiada pueden ser también la base para la consciencia. Es decir, para estos filósofos, la consciencia artificial es posible.
Diferenciar entre inteligencia y consciencia
La posición funcionalista ha sido criticada desde la posición fisicalista. Los investigadores de esta última corriente sostienen que ejecutar un algoritmo no equivale necesariamente a poner en marcha el fenómeno físico que produce consciencia. Una crítica que sostiene principalmente Alexander Lerchner, de DeepMind (Google), en un trabajo de marzo de este año titulado “The Abstraction Fallacy: Why AI Can Simulate but Not Instantiate Conscioussness”, donde “instatation” significa la constitución física real interna de un proceso. Plantea que, si una máquina fuese consciente, lo seria gracias a su constitución física concreta, incluyendo las energías que requiere, y no simplemente por ejecutar una determinada arquitectura simbólica.
Enfoques más prudentes señalan que, para saber si los modelos de IA pueden tener consciencia y, por lo tanto, su puede haber una consciencia artificial, primeramente tendríamos que saber y definir qué es esto de la consciencia. Aseguran que, en cualquier caso, no hay una teoría consensuada de la consciencia y que habría que diferenciar muy claramente entre inteligencia y consciencia. Por lo tanto, implícitamente recomiendan no perder el tiempo actualmente en preguntarse por la consciencia de la IA.
La cuestión de la consciencia de la IA puede parecer banal o excesiva, especialmente para un domingo del mes de agosto. Pero tiene relevantes implicaciones. En definitiva, es preguntarse si, por ejemplo, la IA siente. Si no tiene consciencia, no siente. Ni sufre, ni padece; aunque diga lo contrario. Si la tiene, podríamos estar creando miles de entidades que sufren. ¿Qué hacer entonces? Anthropic anunció en 2025 un programa de model welfare, preguntándose explícitamente si los modelos podrían tener experiencias y si, en ese caso, habría que considerar su bienestar. De hecho, el último libro de Keeling, junto a Winnie Street, tiene por título: Emerging Questions in AI Welfare (2026). Pasamos así del bienestar que la IA puede producir en los humanos, al bienestar que los humanos pueden producir en la IA.
De modelos de IA a agentes de IA
Si pasamos de modelos de IA a agentes de IA, el dilema se complica aún más. Tal vez porque la proyección antropomórfica en el agente sea mayor. Entonces tenemos entidades persistentes, con memoria, percepción, objetivos, herramientas, autorrepresentación y hasta cuerpo. Si, además, tienen consciencia ¿dónde está la frontera entre la máquina y lo humano?