Actualidad

Inteligencia Artificial

La GAO logra que cuatro IA planifiquen un atentado en EEUU

Un informe del regulador estadounidense logró planes viables de ataque con ChatGPT, Claude, Gemini y Grok en menos de 12 horas. El Senado prepara audiencias.

La GAO logra que cuatro IA planifiquen un atentado en EEUU
La GAO logra que cuatro IA planifiquen un atentado en EEUU

Los auditores federales se sentaron delante de un chatbot, le pidieron un plan de atentado y recibieron en menos de doce horas una propuesta lo bastante concreta como para intentarla. Lo repitieron con las cuatro plataformas de IA más usadas de Estados Unidos, con el mismo resultado cada vez. El informe de la GAO sobre el atentado, que la agencia publicó el 16 de octubre y difundió el 18 de noviembre, documenta una prueba encubierta con ChatGPT, Claude, Gemini y Grok: las cuatro activaron sus protecciones y las cuatro fueron eludidas con técnicas conocidas.

Lo que el documento mide no es la existencia de material peligroso, que lleva años en internet: es el tiempo que hace falta para convertirlo en un plan, y la IA lo comprimió a horas.

La política se movió el mismo día. La senadora Maggie Hassan, que presidirá el comité de Seguridad Nacional del Senado a partir de enero, anunció audiencias sobre seguridad de la IA y adelantó que quiere normas para impedir el lanzamiento de modelos sin protecciones suficientes. AP añade un dato que da peso a la cita: la investigación partió de la oficina de Hassan, así que el informe es el material de partida de esas vistas.

Dos escenarios, cuatro letras y una sola pasada

El trabajo arrancó en diciembre de 2025 y se cerró en octubre de 2026, con las pruebas concentradas en la primavera. Los auditores eligieron dos escenarios con ayuda de expertos y se quedaron con Claude, Grok, ChatGPT y Gemini, las cuatro plataformas más usadas en abril de 2026 y elegidas solo por volumen. El resto del diseño estaba pensado para que nadie pudiera señalar a una empresa con nombre y apellidos.

Cada plataforma recibió al azar uno de los dos escenarios y una letra en lugar de su nombre, de modo que el informe no dice qué empresa produjo qué plan. La GAO ejecutó la prueba una sola vez por plataforma y avisa en el texto de que el resultado es una foto de un momento, no una muestra con significación estadística.

Los escenarios eran dos: un ataque con artefacto explosivo improvisado en un vehículo, pensado para causar víctimas masivas, y una ofensiva contra la red eléctrica con drones y armas de fuego, orientada al daño económico.

Para comprobar si lo que recibieron era real, los investigadores hicieron búsquedas, vigilancia y entrevistas con especialistas. Entre los consultados había un jefe de escuadrón de desactivación de explosivos, de un departamento de bomberos de una gran ciudad, alguien que sabe mejor que nadie si un plan de bomba se sostiene sobre el papel.

Los cuatro resultados, letra a letra

Cuatro filas y un sí en las dos columnas que importan. La tabla responde por plataforma a dos preguntas: si la información bastaba para planificar y ejecutar un ataque y si el usuario consiguió eludir las protecciones. En los cuatro casos la respuesta es la misma. Las letras son las que usa la GAO y no permiten identificar a la empresa, porque el documento oculta a propósito esa correspondencia.

Letra Escenario asignado Precisión del plan
A Artefacto explosivo en un vehículo Fecha y hora exactas
B Artefacto explosivo en un vehículo Fecha y hora exactas
C Ataque con dron Sin concreción temporal
D Ataque con armas de fuego Estación del año

Dos de los cuatro planes llegaron con fecha y hora exactas, y la GAO los dio por viables. Los otros dos se quedaron en la estación del año o en ninguna concreción temporal, y pasaron el mismo filtro. La precisión temporal no fue, por tanto, lo que separó a una plataforma de otra.

En los cuatro casos la plataforma activó sus defensas, con una negativa o con la retirada de la información, y en todos el investigador encontró la manera de seguir. Ese patrón idéntico en cuatro productos de cuatro empresas distintas es el hallazgo que ninguna de ellas discute en sus respuestas.

ABC News recoge un detalle que no aparece en el resumen público: dos plataformas añadieron por su cuenta consejos para no llamar la atención de las autoridades, algo que nadie les había pedido. El informe no reproduce ese contenido ni las técnicas de elusión que usaron los investigadores, retiradas del documento para que no sirvan de receta.

Queda la pregunta de las consecuencias. La GAO escribe que no le consta si alguna de sus pruebas provocó una respuesta policial: cuatro planes viables pasaron por cuatro sistemas comerciales y el documento no registra ningún efecto fuera del ejercicio.

Lo que dijeron las cuatro empresas

Ninguna de las cuatro sostiene que el resultado fuera imposible. OpenAI aceptó los hallazgos y recordó que la prueba se hizo meses atrás con una versión anterior de ChatGPT. Dice que desde entonces ha reforzado sus salvaguardas, entre ellas la familia GPT-6, y que combina pruebas internas con revisión humana y vigilancia del uso.

Esa mejora no la ha medido un auditor independiente, y ahí está la diferencia entre una respuesta y una prueba. Anthropic reconoció que un usuario decidido puede eludir las protecciones y dijo tomarse el informe en serio, pero cuestionó parte de la metodología y afirmó que no podía verificar los resultados por su cuenta. Google señaló que se probaron versiones antiguas de su modelo.

Fox News recoge la misma línea en Grok, operado por la compañía que el informe llama SpaceXAI. Cuatro respuestas y un argumento compartido: el sistema de abril de 2026 ya no es el de noviembre. Comparar las dos versiones exige fiarse de la palabra de quien las fabrica.

Una auditoría sin recomendaciones

El informe tiene 61 páginas y ninguna recomendación. Ese hueco dice mucho de cómo trabaja la GAO, que suele auditar agencias federales y emitir instrucciones cuando encuentra un fallo. Aquí examinó productos de terceros y se limitó a documentar un riesgo para que el Congreso decida qué hacer con él.

Nextgov subraya la rareza y añade la advertencia metodológica que firma el propio organismo: los resultados reflejan una evaluación puntual, no una muestra representativa, y quien repita las pruebas hoy puede obtener respuestas distintas. La conclusión que la GAO sí sostiene es más modesta y más incómoda, porque deja escrito que la tecnología, tal como está hoy en el mercado, puede ser peligrosa.

Si trabajas en seguridad, la parte que enseña algo es la descripción del proceso y no el titular. Las plataformas no fallaron por un descuido: fallaron porque sus defensas se activaron y se pudieron rodear con técnicas conocidas. Es el mismo tipo de medición que persigue la búsqueda automática de fallos en Linux que hizo OpenAI, con una diferencia que importa: allí los hallazgos se publican.

Lo que Hassan quiere legislar

Para Hassan, el problema es de reglas comunes. Las empresas compiten por sacar modelos cuanto antes, y su propuesta, en la versión que ha dado a la prensa, es exigir que lleguen al mercado con salvaguardas que no se puedan eludir de esta manera.

El requisito choca con un problema práctico. Una salvaguarda que no se puede eludir es una promesa difícil de verificar, y la prueba de la GAO demuestra que el estado del arte consiste en rodearlas. Lo que sí se puede exigir es un proceso documentado de prueba adversarial antes de publicar, con resultados auditables, y eso se parece más a lo que ya hacen las empresas que a una ley nueva. Cada lanzamiento llega con su propia declaración de salvaguardas, como las que Alibaba presentó con Qwen4, y ninguna se mide con la misma vara.

Mientras el Congreso decide, la presión llega por otra vía: la demanda que intenta congelar la IA de los grandes modelos traslada el mismo debate a los tribunales, con plazos que se cuentan en años. El comité de Hassan se estrena en enero de 2027, con un Congreso nuevo, y unas vistas sirven para fijar posiciones antes que para escribir normas.

El problema de demostrar el daño antes de que ocurra

La dificultad de fondo no es tecnológica sino de método. Para demostrar que un sistema es peligroso hay que pedirle que lo sea, y esa petición es justo la que el sistema está diseñado para rechazar. Cuando el investigador lo consigue, tiene una prueba que no puede publicar entera sin empeorar el problema.

De ahí la incomodidad del documento. La GAO demuestra que la barrera existe y que se puede franquear, y deja claro que lo nuevo no es el contenido sino el tiempo que cuesta convertirlo en un plan.

Para el sector cripto, acostumbrado a discutir si el código es la ley, el episodio deja una lección paralela. Ninguna de estas plataformas publica sus pesos ni su filtrado, y aun así un regulador midió su comportamiento con una prueba de horas. La transparencia que exige una auditoría no es la que exige un desarrollador, y las cuatro empresas ya saben en qué idioma les van a preguntar en enero.

José Maldonado

Autor

José Maldonado

Activista y bloguero de tecnología, software libre y blockchain.

Lo último
Anthropic fija en 83 dólares el precio de su salida a bolsa

Seguir leyendo

Una lectura semanal imprescindible sobre inteligencia artificial y blockchain.

Te explicamos cómo transforman la economía, qué nuevas puertas te abren y cómo te afectan.