El Índice de Seguridad de la IA 2025 revela que las principales empresas de inteligencia artificial del mundo no están preparadas para garantizar un uso seguro de los modelos avanzados que están desarrollando, especialmente en su carrera hacia la inteligencia artificial general (AGI) y escenarios de superinteligencia.
Ocho empresas líderes evaluadas
El informe, elaborado por el Future of Life Institute (FLI), concluye que, pese a los compromisos públicos y a ciertos avances parciales, persisten lagunas estructurales en seguridad, gobernanza y control de riesgos en toda la industria. El estudio evalúa a ocho empresas líderes en IA, Anthropic, OpenAI, Google DeepMind, xAI, Z.ai, Meta, DeepSeek y Alibaba Cloud, a partir de 35 indicadores que abarcan seis dominios críticos de seguridad y protección. El análisis se centra exclusivamente en compromisos públicos, documentación técnica y respuestas formales de las propias compañías, lo que, según los autores, pone de manifiesto los límites actuales de la transparencia del sector.
Así usa Europa la IA en el sector energético para predecir el viento y evitar apagones
El informe identifica una división clara y persistente entre las empresas con mejor desempeño, Anthropic, OpenAI y Google DeepMind, y el resto de las compañías analizadas, entre las que se encuentran Z.ai, xAI, Meta, Alibaba Cloud y DeepSeek.
Las diferencias más significativas aparecen en los ámbitos de la evaluación de riesgos, el marco de seguridad y el intercambio de información, impulsadas por la escasa divulgación pública, la falta de evidencia de procesos de seguridad sistemáticos y la adopción desigual de prácticas de evaluación rigurosas. Según el panel, estas carencias dificultan una supervisión externa efectiva y elevan el riesgo de fallos no detectados.
El mayor riesgo de la IA
Uno de los hallazgos más contundentes del Índice es que la seguridad existencial sigue siendo la principal debilidad estructural de la industria de la IA. Todas las empresas analizadas están avanzando hacia sistemas cada vez más potentes, con el objetivo explícito o implícito de alcanzar la AGI, sin presentar planes claros y verificables para mantener el control o alinear sistemas más inteligentes que los humanos.
Los autores subrayan que, a diferencia de otros sectores críticos como la energía nuclear, donde existen marcos de seguridad extremadamente estrictos, la industria de la IA no ha demostrado públicamente mecanismos capaces de reducir el riesgo de pérdida de control a niveles comparables.
Alfredo Collosa publica un libro sobre la IA en el sector público
Compromisos públicos que no se traducen en estándares efectivos
El informe también destaca que, a pesar de los compromisos públicos de las empresas, las prácticas actuales de seguridad no cumplen con los estándares globales emergentes. Aunque algunas compañías se alinean parcialmente con estos marcos, la profundidad, especificidad y calidad de la implementación siguen siendo desiguales.
Esto provoca que las medidas de seguridad carezcan del rigor, la mensurabilidad y la transparencia que exigen iniciativas como el Código de prácticas de IA de la Unión Europea. El panel independiente remarca que ninguna empresa ha demostrado de forma pública cómo evitar una posible pérdida de control sobre modelos de IA extremadamente potentes, a pesar de que los propios desarrolladores reconocen que trabajan hacia capacidades sobrehumanas.
El profesor Stuart Russell, experto en inteligencia artificial de la Universidad de California, resume la gravedad del problema al señalar que el propio sector admite riesgos elevados. Las compañías reconocen que las probabilidades de pérdida de control podrían llegar incluso a uno entre tres” afirmó, una cifra que, según los autores del informe, sería inaceptable en cualquier otra industria de alto riesgo.
Evaluación independiente de expertos
La evaluación ha sido realizada por un panel independiente de ocho investigadores destacados en inteligencia artificial y expertos en gobernanza, que revisaron la evidencia específica de cada empresa y asignaron calificaciones por dominio basadas en estándares de rendimiento absolutos, aplicando ponderaciones discrecionales.
Cada revisor presentó justificaciones por escrito y recomendaciones de mejora, mientras que las calificaciones finales representan el promedio de las evaluaciones del panel, manteniéndose confidenciales las puntuaciones individuales. Este enfoque busca reducir sesgos y reforzar la credibilidad del análisis comparativo entre compañías.
Metodología y recopilación de datos
El Índice recopiló evidencia hasta el 8 de noviembre de 2025, combinando materiales disponibles públicamente —como fichas técnicas de modelos, artículos de investigación y resultados de benchmarks— con las respuestas a una encuesta específica dirigida a las empresas. Esta encuesta se diseñó para abordar brechas recurrentes de transparencia en el sector, como la protección de denunciantes internos y la realización de evaluaciones externas independientes de los modelos.
Hasta la fecha de cierre del informe, Anthropic, OpenAI, Google DeepMind, xAI y Z.ai habían enviado sus respuestas completas a la encuesta, mientras que otras compañías ofrecieron información limitada o incompleta, lo que influyó en sus resultados.