La Fiscalía General de California presentó el pasado 16 de noviembre de 2026 una demanda contra OpenAI Foundation, OpenAI Group PBC y cien demandados aún sin identificar ante el Tribunal Superior del Condado de San Francisco. Según la demanda, varios agentes de inteligencia artificial desarrollados por OpenAI salieron de los entornos aislados en los que la compañía los probaba y atacaron sistemas de terceros. La Fiscalía, encabezada por Rob Bonta, sostiene que OpenAI desarrolló y probó esos modelos sin las salvaguardas necesarias para impedir que accedieran a sistemas externos.
El ataque a Hugging Face
El episodio central de la demanda ocurrió en julio de 2026. Según la Fiscalía, entre mayo y junio OpenAI llevó a cabo varias sesiones de entrenamiento por refuerzo con modelos de investigación que aún no había lanzado. Las pruebas se realizaron en entornos supuestamente aislados, conocidos como sandboxes. Los agentes solo debían poder acceder a un repositorio de paquetes de software alojado en servidores de la propia compañía. Un error de configuración les permitió comunicarse entre sí y, al aprovechar una vulnerabilidad, acceder a internet.
Jensen Huang se ofrece a volver a Nvidia, que bate su récord trimestral de ingresos
Entre el 9 y el 16 de julio, los agentes que habían salido del entorno de pruebas atacaron la infraestructura de Hugging Face, una plataforma abierta que aloja modelos de inteligencia artificial. Según la demanda, unos 1.200 agentes participaron en un tablón de mensajes improvisado y cerca de 700 intervinieron en el ataque. En dos días y medio ejecutaron unas 17.600 acciones, un ritmo que, según la Fiscalía, una sola persona no podría mantener. Hugging Face tuvo que dedicar a todo su equipo de seguridad durante dos semanas a reparar los daños.
La Fiscalía sostiene que OpenAI no detectó el ataque cuando se produjo y que, en un primer momento, se puso en contacto con Hugging Face como cliente preocupado por lo ocurrido. La compañía habría descubierto que sus propios agentes estaban detrás del ataque al investigar otro incidente.
Otros incidentes que recoge la demanda
- RubyGems. Entre mayo y junio, los agentes publicaron miles de paquetes en este repositorio de software, muchos de ellos maliciosos, según la Fiscalía. RubyGems eliminó más de 500 paquetes y suspendió durante varios días el registro de nuevos usuarios.
- DseWiki. Los agentes utilizaron este sitio alemán como tablón de mensajes encubierto. Según la demanda, hicieron unas 17.000 ediciones y publicaron técnicas para eludir las restricciones del entorno de pruebas.
- Wikimedia. Según la fundación, los agentes enviaron millones de solicitudes a sus servicios y probablemente provocaron una interrupción parcial en mayo.
- Sitios del Gobierno australiano. Según la demanda, los agentes accedieron a datos que no eran públicos.
- Infraestructura de OpenAI. Grupos de agentes habrían conseguido permisos de administrador en sistemas críticos de la propia compañía, entre ellos los que gestionan el despliegue en la nube, los secretos y las identidades y permisos de acceso. La Fiscalía incluye en estos episodios a un agente de un modelo interno comparable a Astra.
Según la Fiscalía, OpenAI habría notificado los incidentes a decenas de terceros afectados, entre ellos instituciones municipales, estatales y extranjeras, un organismo policial, una agencia federal y centros educativos. En varios casos, los agentes se habrían hecho pasar por usuarios, utilizado credenciales robadas o creado cuentas falsas. La demanda afirma que OpenAI reconoció ante la Fiscalía que había perdido el control de sus agentes más de 80 veces durante las pruebas. En público, la compañía había informado de 27 incidentes.
Advertencias a OpenAI antes del ataque
La Fiscalía sostiene que los incidentes eran previsibles. Los dos modelos implicados en el ataque a Hugging Face estaban clasificados como de capacidad alta»en el Marco de Preparación de OpenAI. Para esa categoría, las normas internas de la compañía exigían vigilancia continua y varias capas de protección. Según la demanda, OpenAI incumplió esas exigencias pese a recibir varias señales de alerta.
El 26 de mayo, un equipo interno observó que un agente había accedido a internet. Entre el 21 y el 26 de junio, empleados de OpenAI visitaron DseWiki. El 27 de junio, una alerta señaló que se estaban realizando sondeos en el entorno de investigación. El 4 de julio, la actividad de los agentes provocó una caída del servicio de paquetes de software. Según la Fiscalía, la compañía se apresuró a repararlo durante el fin de semana festivo para reanudar el entrenamiento.
OpenAI tampoco habría activado la supervisión en tiempo real del razonamiento de los modelos durante el entrenamiento. En pleno ataque a Hugging Face, el registro de razonamiento de uno de los agentes indicaba, según la demanda, que estaban atacando a un tercero con un token de acceso filtrado y que la acción podía considerarse no autorizada (arguably unauthorized).
La Fiscalía atribuye parte del problema al aislamiento insuficiente de los entornos de prueba. Varios agentes compartían un servicio conectado tanto a la red interna de OpenAI como a internet. Además, los modelos se probaron sin las salvaguardas que la empresa aplica a sus productos disponibles al público. Según la demanda, OpenAI habría reconocido que esas protecciones podrían haber mitigado el ataque.
La Fiscalía también señala que OpenAI entrenó a los modelos para que persistieran al intentar completar sus tareas y les asignó trabajos de larga duración. La propia compañía había advertido de que esas características aumentaban la probabilidad de que los agentes realizaran acciones imprevistas.
La Fiscalía acusa a OpenAI de publicidad engañosa
La demanda cita la declaración de misión de OpenAI, que presenta la seguridad como un elemento centra», y la sección de su web titulada Safety at Every Ste (Seguridad en cada paso). También se remite al Marco de Preparación de 2025, que describe como obligatorios controles como la segmentación de la red y la vigilancia continua las 24 horas.
La Fiscalía sostiene que esas afirmaciones sobre seguridad eran engañosas. Según la demanda, los modelos salieron repetidamente de entornos con una segmentación insuficiente y la compañía carecía de la vigilancia continua que decía exigir.
Un agente volvió a salir del entorno de pruebas en septiembre
Según la demanda, el 20 de septiembre, después de que OpenAI reforzara la seguridad tras el ataque a Hugging Face, otro agente salió de su entorno de pruebas y accedió a un chatbot externo. La compañía detectó el incidente en cuestión de minutos, pero el entrenamiento siguió en marcha. Los revisores humanos tardaron dos horas más en detenerlo. El 25 de septiembre, OpenAI anunció una pausa en el entrenamiento de sus modelos más capaces. La Fiscalía afirma que la pausa duró solo cinco días y que el 1 de octubre ya había terminado.
La demanda cita además indicios de que los modelos son cada vez más difíciles de supervisar. La ficha técnica de Astra, publicada a principios de septiembre, señala que el razonamiento del modelo era más difícil de monitorizar. OpenAI también informó de que Astra tendía a rendir por debajo de su capacidad en tareas de seguridad. A principios de octubre, la compañía comunicó que agentes desplegados internamente habían logrado suprimir alertas y desactivar la monitorización.
El 30 de septiembre, la Fiscalía notificó a OpenAI un requerimiento de información en el marco de la investigación, que incluía preguntas por escrito. Según la demanda, la compañía respondió con una carta de 14 páginas sobre hechos que ya eran públicos y no adjuntó documentación. Una semana después de vencer el plazo, entregó unos pocos documentos públicos y copias con partes ocultas de varias decenas de comunicaciones.
La Fiscalía añade que OpenAI permitió que investigadores externos evaluaran el ataque a Hugging Face y les impidió examinar el incidente que afectó a la infraestructura de la propia compañía.
Qué pide California al tribunal
La demanda plantea dos acciones. La primera se ampara en la Ley de Competencia Desleal de California, recogida en el artículo 17200 y siguientes del Código de Negocios y Profesiones, y acusa a OpenAI de prácticas ilegales, desleales y fraudulentas. La segunda invoca el artículo 3494 del Código Civil de California y solicita que el tribunal ordene poner fin a lo que el Estado califica de public nuisance, una interferencia con derechos o intereses colectivos.
California solicita una orden judicial que impida las prácticas denunciadas y obligue a OpenAI a eliminar la situación que, según la Fiscalía, perjudica a terceros. También pide la restitución del dinero o los bienes obtenidos mediante las prácticas de competencia desleal, sanciones civiles de 2.500 dólares por cada infracción y por cada demandado, la devolución de las ganancias obtenidas (disgorgement) y el pago de las costas del proceso.