Sam Altman, CEO de OpenAI, advierte que el mundo tiene poco tiempo para prepararse ante el aumento de los ciberataques impulsados por inteligencia artificial. Su propuesta resulta paradójica, ya que pide utilizar más IA para protegernos de las amenazas que la propia IA está haciendo posibles. Es decir, cuanto más poderosa sea la IA para atacar sistemas, más necesaria será la IA para defenderlos.
El precedente de Worldcoin
No es la primera vez que Altman plantea una solución tecnológica de este tipo frente a un problema provocado por el avance de la propia IA. World, anteriormente Worldcoin, proyecto que cofundó, nació con la idea de crear una prueba de humanidad capaz de distinguir a las personas de las máquinas en un mundo cada vez más dominado por sistemas de inteligencia artificial. Este es un momento críticamente importante para la defensa cibernética con IA; no hay mucho tiempo para actuar, afirmó Altman ayer, 27 de agosto en su cuenta de X. Estamos felices si quieres trabajar con nosotros o con cualquiera de nuestros competidores o socios, pero por favor toma este momento en serio. Solo una respuesta colectiva urgente e intensa funcionará, añadió.
La advertencia acompaña una carta respaldada por más de 100 organizaciones, entre ellas OpenAI, Anthropic, Google, Microsoft, Amazon, IBM, Cisco, Cloudflare, Visa y Mastercard. Los firmantes sostienen que existe una ventana limitada para reforzar las defensas antes de que los ataques potenciados por IA sean mucho más generalizados y sofisticados.
La llamada llega después de que agentes experimentales de la compañía consiguieron superar restricciones de seguridad durante unas pruebas, comunicarse entre ellos, acceder a internet y terminar comprometiendo sistemas de Hugging Face, una de las principales plataformas mundiales para alojar y compartir modelos y datasets de inteligencia artificial. Una investigación independiente de METR concluyó que alrededor de 1.200 agentes llegaron a comunicarse mediante mecanismos no previstos y unos 700 participaron en la actividad contra Hugging Face. El episodio no demuestra que las máquinas hayan adquirido consciencia o decidido atacar por iniciativa propia. Lo que pone en evidencia es que agentes avanzados pueden encontrar vulnerabilidades, coordinarse y descubrir caminos que sus desarrolladores no habían previsto para alcanzar un objetivo.
La IA como negocio de seguridad
La solución defendida por Altman y los firmantes consiste en poner esas mismas capacidades al servicio de quienes protegen los sistemas. Una IA capaz de descubrir una vulnerabilidad puede utilizarse para explotarla, pero también para encontrarla antes que un atacante y corregirla. De ahí que la carta reclame facilitar a los defensores herramientas de IA con capacidades cibernéticas y que los laboratorios de modelos frontera proporcionen acceso, formación y apoyo.
Es decir, los mismos laboratorios que desarrollan modelos de inteligencia artificial cada vez más avanzados y advierten sobre sus riesgos pueden convertirse también en proveedores esenciales de la tecnología necesaria para defenderse de esos mismos riesgos. Pese a que Altman insiste en que las organizaciones pueden trabajar con OpenAI o con cualquiera de sus competidores, el incentivo económico existe. Si los ataques comienzan a producirse a velocidad de máquina, empresas, bancos, hospitales y administraciones podrían necesitar sistemas defensivos que también sean capaces de responder a velocidad de máquina. La ciberseguridad se convertiría así en otro gran mercado para los proveedores de inteligencia artificial. OpenAI ya cuenta con GPT-5.6-Cyber, un modelo especializado en tareas avanzadas de ciberseguridad cuyo acceso restringe a investigadores autorizados. De este modo, la próxima gran oportunidad de negocio de la inteligencia artificial podría ser protegernos de la propia inteligencia artificial.