Hay que empezar reconociendo que el concepto de Modernidad es complejo y lleno de matices. Aun así, hay dos aspectos consustanciales a la Modernidad que podrían ser aceptados por la mayoría: su ambición de control y confianza en la acción del hombre. Pues bien, ambos aparecen radicalmente transformados por el modelo de inteligencia artificial Claude Mythos Preview. La propia escenificación de la propuesta ha sido revolucionaria en muchos aspectos. Una puesta en escena que puede tomarse como un espectáculo del nuevo poder tecnológico. Una eficaz forma de llamar la atención de todo el planeta.
Claude Mythos y el fin de la Modernidad
Ahora bien, es el anuncio que certifica el final de la Modernidad, en cuanto atravesada por el control del hombre y la confianza en el hombre. Es el anuncio de la entrada en la cibertranslimitación. De que se han traspasado límites. En la pieza de Observatorio Blockchain en la que se recogía la noticia sobre este modelo de IA se dejaba claro: el ecosistema digital ha cruzado el punto de no retorno.
Vamos con el procedimiento de la no presentación en sociedad del modelo Claude Mythos Preview. Anthropic, la compañía creadora de este modelo de IA, decidió no lanzar públicamente el proyecto por razones de capacidad y riesgo. Hasta ahora, los modelos que no se presentaban a bombo y platillo en sociedad era porque estaban a falta del acabado final, estando todavía en fase de prototipo o similar.
Mythos, la IA de Anthropic que ha encendido las alarmas por su velocidad destructiva
Aquí Anthropic afirmaba que Mythos había ya funcionado a pleno rendimiento. En este funcionamiento y estas eran las alarmas que acompañaban el anuncio, se decía que había descubierto miles de vulnerabilidades graves, incluyendo fallos en sistemas operativos, navegadores y proyectos de código abierto. Fallos que llevan decenios sin detectarse.
El control pasa a las máquinas
Mythos ni se tuvo que despeinar. Los encontró en segundos. Los puede encontrar en milisegundos y lo más importante, exige máquinas inteligentes que los puedan reparar en esos milisegundos. No se puede esperar a que a que el experto técnico se ponga manos a la obra y tarde horas, días, semanas…. En ese tiempo, el sistema podría haber sido infiltrado o destruido. La reparación es urgente y el control ha de pasar a máquinas inteligentes que detecten fallos y reparen en menos de un segundo. El control pasa a las máquinas.
Sigamos en la no presentación de Mythos en sociedad. Normalmente, las compañías anuncian la gran potencia de su modelo y lo comercializan. Sin embargo, Anthropic presentó el sistema, pero restringió el acceso a un grupo limitado de organizaciones dentro de su iniciativa Project Glasswing. Tal forma de anuncio genera ya la percepción de que el modelo representa un salto importante en capacidades defensivas y ofensivas de ciberseguridad. De que se habían pasado los límites de la ciberseguridad. De que se estaba en la cibertranslimitación. Es decir, lo que supuestamente obliga a otra forma de anuncio es lo que se convierte en un potente anuncio del significado del producto que se anuncia.
La lógica de la cibertranslimitación
Tras el anuncio de la no presentación, se sucedieron contundentes e impactantes seguimientos mediáticos que hablaban de la gran capacidad de Mythos para comportamientos avanzados en tareas de seguridad ofensiva. Aunque los detalles completos siguen sin conocerse, los ecos sostenían que Mythos logró superar restricciones diseñadas para contenerlo. La cuestión es que, haya conseguido o no lo que se dice que ha conseguido particularmente Mythos, estamos en la lógica de la cibertranslimitación.
El que haya sido capaz de encontrar errores (humanos, aunque cada vez menos humanos) presentes durante muchos años, no quiere decir que la propia máquina carezca de errores y que no haya más errores en lo analizado. La carrera por la superación de máquinas vendrá dada por la situación meta en la que se situarán las vencedoras: una máquina inteligente será superior a otra si, observándola, encuentra fallos que no había encontrado la derrotada y, sobre todo, si encuentra fallos en la propia máquina observada. Pero ya es una competencia entre máquinas, que se construyen, reconstruyen, mejoran y superan entre ellas.
La “maquina humana” ha sido superada
La “maquina humana” ha sido superada. Es incapaz de encontrar fallos a la velocidad de modelos como Mythos. De encontrar fallos en otras máquinas, en otros softwares. De encontrar fallos en la propia “máquina humana”. Conscientes de nuestra translimitación, de haber sido superados en nuestra capacidad de control, son numerosas las preguntas que se derivan. Algunas trasladables a las vidas cotidianas personales: ¿consultaremos constantemente a estas máquinas sobre lo que hacer y decidir cuando pueden llegar a conocernos tan bien, que saben de nuestros errores antes de cometerlos porque conocen nuestra capacidad para el error? ¿quién decidiría en tal caso: máquina inteligente o humano?
Volvamos a lo que tiene el anuncio de Mythos de certificación del final de la Modernidad, en la medida que exige el escenario de Confianza Cero Absoluta. Es una maximización del modelo de Confianza Cero, que ya parte del principio de nunca confiar, siempre verificar. La absolutización de la confianza cero quiere decir que ningún usuario, dispositivo, aplicación, proceso o comunicación recibe confianza implícita en ningún momento.
Confiar en el no confiar
Confiar en la Confianza Cero Absoluta es el principio de no confianza. Desconfiar de todo, para ponerlo en revisión es, paradójicamente, una forma de confiar. Confiar en el no confiar. Solo se confía por necesidad, decía el sociólogo Niklas Luhmann. Esto es darle la vuelta: desconfiar por necesidad. Si la organización, sistema o aplicación quiere sobrevivir.
En la confianza cero tradicional, cada acceso se autentica y autoriza. Los privilegios que se aplican son mínimos y esa mínima confianza se basa en identidad, contexto, estado del dispositivo y riesgo. La confianza cero absoluto es un escenario donde la confianza nunca persiste. Cada acción se valida continuamente. Es más, una exitosa autenticación exitosa hace un minuto no garantiza el acceso pasado ese tiempo. La gran amenaza es la rapidez con que trabajan las máquinas replicantes de identidad, que pueden “tomar” la identidad del autenticado hace un minuto. Por otro lado, todas las comunicaciones están sujetas a verificación, ya sea entre usuario y aplicación, entre aplicaciones, entre servicios o entre dispositivos.
Confianza cero absoluto conlleva una continua evaluación del riesgo. Un juicio constante sobre el estado de seguridad del dispositivo, actuando en tiempo real frente a las amenazas. Claro está, la que reacciona en ese tiempo real es la propia máquina inteligente. Por otro lado y con ese objetivo de confianza cero absoluta, los sistemas son algo menos sistemas. Es decir, sus elementos y recursos se aíslan al máximo para limitar movimientos laterales de un atacante. Todo puede estar comprometido. Todo es sospechoso.
Un cambio de época
Esta falta absoluta de confianza tiene sus contrapartidas. Entre las que pueden llegar a los usuarios, en un principio menor rendimiento. En general, en relación con los sistemas informáticos, un empeoramiento de su experiencia como usuario. Más en general, como ciudadano, la actitud de desconfianza constante, hacia todo. Todavía más en general, la translimitación de la confianza. Un cambio de época.