Actualidad

Tecnología

RTX 4090: un módulo del kernel desbloquea tensor cores ocultos

Un módulo del kernel de Linux duplica la tasa de los tensor cores de la RTX 4090, de 165,6 a 331,6 TF/s en FP16, y promete lo mismo en otras tarjetas Ada.

RTX 4090: un módulo del kernel desbloquea tensor cores ocultos
RTX 4090: un módulo del kernel desbloquea tensor cores ocultos

Tres días y 3.704 estrellas. El proyecto gpu-unlock-ada nació la noche del viernes 23 de octubre y este lunes acumula 489 bifurcaciones, catorce incidencias abiertas y más de 1.100 estrellas nuevas en 24 horas. Lo que ha disparado la atención no es una tarjeta gráfica nueva, sino un módulo del kernel de Linux que hace que una RTX 4090 de 2022 rinda el doble en la mitad de sus operaciones de tensor.

El mecanismo tiene poco de magia y mucho de firmware. El módulo se carga desde el initramfs y actúa antes de que el driver de NVIDIA tome el control de la tarjeta, ejecuta una cadena firmada que abre permisos internos y deja escrito el selector de velocidad del chip. Con eso, la tarjeta emite al doble de ritmo las instrucciones de tensor core en FP16 y BF16 cuando acumulan en FP32: 165,6 a 331,6 TF/s en el primer modo y 165,5 a 330,6 TF/s en el segundo.

La cifra interesa porque los tensor cores de la RTX 4090 son hoy el motor de buena parte de la IA local que corre en casa, y porque duplicar la tasa de emisión no equivale a duplicar la velocidad de un modelo. El propio repositorio lo dice sin adornos: son tasas de instrucciones medidas con los datos en registros, no acelerones de una aplicación completa. Lo que hay sobre la mesa es un experimento abierto, reproducible y con más preguntas que certezas.

Desbloqueando más poder para tu RXT 4090

El módulo no parchea el driver ni toca la UEFI. Aprovecha un hueco del arranque, con la tarjeta fría y sin driver cargado, para lanzar el firmware firmado que NVIDIA ya entrega dentro de la tarjeta y hacerle ejecutar cuatro escrituras privilegiadas.

Después fija los selectores internos, fuerza un reinicio de función PCIe y deja que el driver de NVIDIA inicialice la tarjeta como cualquier otro día. La pieza que faltaba no era el cargador de Linux, heredado de Zagitta/gpu-unlock, sino el mapa del interior: la carga útil AD102 sale del análisis del booter de depuración que TOTORONG publicó para la familia AD103 y que aquí se traduce a las direcciones del chip grande.

El repositorio tampoco distribuye firmware de NVIDIA. Genera los nueve ficheros que necesita en la máquina del usuario a partir de entradas fijadas por SHA-256 de la versión 610.43.03, y se publica bajo GPL-2.0 con el módulo escrito en C, igual que el proyecto del que hereda el cargador.

Los números que el repositorio pone sobre la mesa

La primera medición, del 23 de octubre, usa los mismos núcleos de benchmark, la misma geometría de lanzamiento y las mismas banderas de compilación en ambos estados, con un tope de 450 W y 128 SM activos. El contraste se ve mejor en una tabla que en prosa, porque lo relevante es que solo una parte de la matriz numérica se mueve.

Modo de instrucción Antes Desbloqueada
FP16 con acumulación FP32 165,6 TF/s 331,6 TF/s
BF16 con acumulación FP32 165,5 TF/s 330,6 TF/s
INT8 con acumulación INT32 661,6 TOP/s 659,5 TOP/s
dp4a 164,5 TOP/s 164,1 TOP/s
FP32 escalar (ffma) 79,1 TF/s 79,1 TF/s

Una reproducción independiente, sobre la revisión `8855e7b` y el kernel 7.2.11 de Arch con el driver 615.78.08, repitió el resultado: 160,4 a 320,4 TF/s en FP16 y 159,7 a 320,2 en BF16. Ahí aparece el primer freno real. Con cuBLAS y sus requisitos de CUDA en RISC-V, el mismo stack CUDA que usan PyTorch y casi todo lo demás, la ganancia mediana de un GEMM grande fue del 12 al 34 % en FP16, del 16 al 20 % en BF16 en dos formas y nula en 4096³.

El 25 de octubre se sumó una tarjeta modificada de 48 GB con Ubuntu 26.04 y el driver 610.57.04. El registro `fmla32` pasó de 1 a 0, la tasa subió de 164,9 a 328,9 TF/s en FP16 y de 164,8 a 328,7 en BF16, sin errores Xid en el journal. Y un servicio de mezcla de expertos cuantizado no mejoró nada, 0,983 veces en prefill de 8K, lo que encaja con que las matmul cuantizadas no pasen por la ruta de acumulación en FP32.

El matiz que separa un 2x de un 10 %

El mismo día del pico de estrellas, el 26 de octubre, un usuario publicó en el repositorio original un informe con una RTX 4090 ASUS de fábrica que desmonta cualquier lectura triunfalista.

El desbloqueo funcionó y el kernel registró `gpu_unlock: unlocked`, pero los números fueron mucho más modestos: un GEMM FP16 pasó de 162,1 a 178,8 TF/s, un 10 %, BF16 de 160,2 a 188,1, un 17 %, y el TF32 de 84,4 a 131,8, un 56 % que no se parece al doble prometido. El procesado de un prompt de 14.600 tokens con un modelo de 27.000 millones cuantizado apenas se movió, un 2,6 %, y la generación de 256 tokens bajó un 7 %.

Ese contraste no invalida el proyecto, pero sí acota lo que promete. Dos tarjetas del mismo modelo, con la misma potencia y el mismo driver, dan resultados que van del 10 % al 100 % según la carga, la forma del GEMM y el modo de acumulación que elija la biblioteca. El autor de ese informe admite que no ha investigado si la culpa es de la ruta de acumulación de torch, de los relojes o del límite de 450 W. Nadie tiene todavía la respuesta.

La RTX 4070 Ti SUPER, el segundo banco de pruebas

La otra pata del proyecto es experimental y así está etiquetada. Una RTX 4070 Ti SUPER con identificador `10de:2705`, 66 SM y tope de 240 W pasó de 95,0 a 189,9 TF/s en FP16 y de 95,0 a 189,7 en BF16. El INT8 se quedó en 379,5 TOP/s, una cifra idéntica a la de serie, y el TF32 casi duplicó su tasa hasta 94,51 TF/s.

El INT4 sin signo se mantuvo en 754,8 TOP/s en los dos estados, y un GEMM E4M3 con CUTLASS midió 59,326 TF/s de serie y 59,495 desbloqueada, una diferencia del 0,3 % que no distingue una tasa de emisión de instrucciones.

Cada identificador Ada exige su propia bandera de activación, y los marcados como exactos tienen que nombrarse por su dirección PCI completa: `targets=all` nunca los selecciona. El repositorio recoge resultados de una tarjeta o de unas pocas por modelo, avisa de que las variantes de portátil dependen del VBIOS y rechaza las RTX A profesionales y las tarjetas de centro de datos.

¿Qué gana y qué arriesga quien lo pruebe?

La ganancia es concreta para quien ya tiene una Ada y hace fp16 o bf16 con acumulación FP32: entrenamiento pequeño, ajuste fino, inferencia sin cuantizar. El precio también lo es, y no aparece en ninguna tabla de rendimiento.

  • El módulo es de código abierto, pero vive fuera del árbol del kernel y llega sin firma, así que Secure Boot tiene que estar apagado.
  • El proyecto documenta cómo volver atrás: si el arranque falla, hay que retirar el parámetro de la línea de comandos del kernel antes de recuperar la tarjeta.
  • La evidencia publicada cubre una o pocas tarjetas por identificador, con pruebas de estabilidad cortas y sin cargas de entrenamiento representativas.
  • La garantía, las condiciones de uso de NVIDIA y cualquier uso minero quedan enteros del lado de quien ejecuta el módulo.

El hacking de consumo va donde está la IA local

El patrón se repite cada generación. Hace unos años la comunidad desbloqueaba las tarjetas CMP de minería para ampliar su memoria; en 2026 el objetivo son los tensor cores, porque el dinero y la curiosidad se han mudado a la IA local, un mercado donde el hardware capaz sigue costando un ojo de la cara, tal y como recoge el artículo sobre la IA local en tu PC por 4.000 euros. Que un módulo de kernel de tres días de vida reúna 3.700 estrellas dice menos del código que del apetito que hay detrás.

El agujero no está en un controlador gráfico sino en cómo se arranca el firmware de la tarjeta, y cerrarlo del todo pasaría por revisar esa cadena de arranque. Mientras eso no ocurra, lo que queda es una herramienta fascinante y frágil, con buena parte de sus resultados todavía sin reproducir en otras manos. Habrá que esperar a las próximas semanas para saber si el 2x se sostiene en un parque amplio de tarjetas o se queda en la anécdota de unos pocos bancos de pruebas.

José Maldonado

Autor

José Maldonado

Activista y bloguero de tecnología, software libre y blockchain.

Lo último
Igalia cuenta qué metió en Linux 7.3 y por qué tu GPU va mejor

Una lectura semanal imprescindible sobre inteligencia artificial y blockchain.

Te explicamos cómo transforman la economía, qué nuevas puertas te abren y cómo te afectan.