El pasado domingo nos centrábamos aquí en la legión de filósofos profesionales, la mayor parte fichados de la cantera de la Universidad de Oxford, que se han puesto a trabajar para las grandes compañías de IA (inteligencia artificial). Pero también son los propios ejecutivos de estas empresas los que piensan en alto, nos transmiten sus anhelos y dudas con respecto a esta tecnología. Es lo que hace Dario Amodei, CEO de Anthropic, a través de los ensayos que publica en su blog. Esta vez, el pensador no viene de Oxford, sino de las universidades de Princeton y Stanford, que tampoco están nada mal.
Una IA sin límites
En un primer ensayo, de octubre de 2024, sorprende inicialmente ya que, siendo ejecutivo de una de las grandes empresas que vende el producto IA, nos habla de los riesgos del mismo. Incluso empieza diciendo, con tono de sorpresa, que estamos subestimando los riesgos de la tecnología. Ahora bien, detrás está el encumbramiento de la IA a calificativo de poderosísima tecnología, que una gestión responsable puede conducir a buen puerto.
Aunque nos advierte de la necesidad de separar entre información y propaganda, su posición y su exposición parece tener bastante de la misma, de propaganda. Es cierto que no es una propaganda que solo muestra los enormes beneficios del producto, sino que, siendo algo más sofisticada, se sitúa en lo que podría asumirse como nivel meta: una propaganda que habla de la propaganda que otros hacen del producto, añadiendo otras características, como la de los riesgos, por lo que cabe categorizarla como propaganda reflexiva. De la propaganda profética y prometedora, con abundante retórica de la ciencia ficción y fuegos artificiales (sic), pasamos así a la propaganda reflexiva, con retórica paternalista.
Aun cuando reconoce que el futuro es impredecible, asume que se puede afrontar y evitar la probabilidad de que algunos peligros riesgos tengan lugar. Para ello, se centra en un limitado número de áreas donde la IA tiene grandes implicaciones: biología y salud física, neurociencia y salud mental, desarrollo económico y pobreza, paz y gobernanza, y trabajo y sentido.
Una tecnología que ha traspasado todos los límites
Lo más destacado en su argumento es el dibujo del poder de la tecnología. Una tecnología que ha traspasado todos los límites y que apenas tiene límites. Especialmente en su velocidad de respuesta. A lo sumo, los límites derivados de un -de momento- inevitable mundo físico o de las interacciones del software. El problema, como apunta, es cuando la vida empieza a ser vista como un problema para el desarrollo de la IA. Es una cuestión de velocidad, de tiempo en las respuestas; pero, sobre todo, es una cuestión de orden: poner primero la vida o la IA. Suena un poco a: “la bolsa, la vida o la IA”.
En algunas facetas de nuestra vida, como es la de los descubrimientos científicos relacionados con la salud, la aceleración analítica que nos provee la IA es bienvenida. Cuando de aquí se pasa a tomar la IA como base para decisiones que llevan experimentos sociales, se trata de otra cosa. No nos volvamos locos, aunque Amodei anuncie que la mayor parte de las enfermedades mentales serán curadas por la IA en un plazo relativamente corto. En todo casos, en este primer ensayo nos dibuja un mundo que será, en cinco o diez años, mejor que el actual. Esto es abominar de los profetas, para hacer de profeta. Pero los profetas “son los otros”. Lo dejaremos aquí en profetismo reflexivo o, si quieren, predicción, donde los riesgos parecen disolverse.
El segundo de los ensayos es más reciente, de enero de este año 2026. Partiendo de una cita de Carl Sagan, su argumento central es que estamos en la adolescencia de una tecnología, la IA, en la que ésta todavía nos es algo extraño, como un alienígena. Un alienígena con el que estamos en contacto y le preguntamos cosas que nos sirva para conducirnos: un ¿cómo lo hiciste para conseguir tal nivel de desarrollo y seguir viva tu civilización? Retoma la cuestión de los riesgos. Tal vez con la conciencia de su lugar secundario en el anterior ensayo, a pesar de las advertencias preliminares del mismo.
Los riesgos de Amodei
Y también retoma la cuestión de los límites; pero esta vez en un sentido distinto. De hecho, lo que nos dice es que lo más constructivo que podemos hacer es abogar por unas reglas que nos limiten el uso de las potencialidades de la IA. Es decir, límites humanos -sociales y políticos- para lo ilimitado.
¿De qué hemos de preocuparnos para pensar reglas que limiten? Amodei habla de cinco grandes riesgos. En primer lugar, el riesgo de que la IA haga algo que no queremos. Advierte que ya hay comportamientos de la IA que son difícil de predecir o controlar. Aquí vienen las reglas, introduciéndonos en la Constitutional AI, como son: entender qué ocurre dentro de los modelos, detectar comportamientos peligrosos, entrenar los modelos para que sean honestos y seguros, y comprobar que mantienen esos comportamientos incluso cuando son muy capaces.
El segundo de los riesgos es que un ser humano o un grupo de seres humanos puede utilizar la IA para hacer daño (terrorismo, ciberataque, formas de destrucción masiva). La regla es simple: impedir que determinadas capacidades peligrosas de la IA lleguen a manos de los malos. El tercero de los riesgos está muy vinculado al anterior, pues es el de que la IA se encuentre al servicio de un dictador o una organización que concentra mucho poder. Es decir, entidades con poder, concentrarían más poder. La democracia aparece como regla y solución.
Desempleo masivo
El cuarto es el riesgo de que la IA lleve al desempleo masivo. Aquí la salida estriba en la distribución que se haga de la riqueza creada por la IA. El quinto riesgo es el filosóficamente más interesante: millones de IAs trabajando, con una potencia extraordinaria, pueden conducir a una velocidad del cambio tal que nos sería prácticamente imposible anticipar sus consecuencias.
Su propuesta no es novedosa: prudencia, responsabilidad y regulación. Propuesta para pasar de la adolescencia de la IA a su madurez. ¿No suena a que lo que realmente está proponiendo es un modelo de gestión abanderado por su empresa? No es propaganda. Es propaganda reflexiva.