Actualidad

Inteligencia Artificial

Las TPU de Google mueven la IA de Meta en producción

Meta ejecuta inferencia sobre TPU de Google con PyTorch nativo, sin pasar por JAX. El software, no la venta del chip, es lo que mueve el coste por token.

Las TPU de Google mueven la IA de Meta en producción
Las TPU de Google mueven la IA de Meta en producción

Durante años, el argumento para no comprar silicio de Google fue siempre el mismo: había que reescribir el código. Esa excusa acaba de caer. La versión de SGLang para TPU ejecuta hoy cargas en producción dentro de Meta, y TorchTPU, publicado como código abierto el 20 de octubre de 2026, permite que PyTorch hable con el chip de Google sin pasar por el framework de la casa.

Una TPU es un procesador que Google diseña para una sola familia de operaciones, las multiplicaciones de matrices que sostienen a los modelos de lenguaje, y esa especialización le permite gastar menos energía que una GPU de propósito general cuando la carga encaja. El problema nunca estuvo en el silicio, sino en la puerta de entrada: durante años, programar TPU exigía JAX, un framework que la mayoría de los equipos no usaba. Meta entrena y sirve sus modelos en PyTorch, el framework que ella misma mantiene, y no estaba dispuesta a migrar.

El anuncio comercial es más modesto de lo que sugiere la cobertura. Meta firmó en febrero de 2026 un alquiler multianual de TPU por miles de millones, no una compra, y las conversaciones para tener chips propios en sus centros de datos apuntaban a 2027. Lo que cambia el cálculo es otra cosa: si el código de PyTorch corre en TPU con cambios mínimos, el coste de cambiar de proveedor deja de medirse en meses de ingeniería y pasa a medirse en una factura mensual, que es justo el terreno donde NVIDIA cobra su peaje.

¿Qué es una TPU y por qué el código pesa más que el anuncio?

La TPU es un chip de aplicación específica. Google dibuja el circuito para una operación concreta y renuncia a la flexibilidad de una GPU de propósito general. Ironwood, la séptima generación, es la que figura en las pruebas de este anuncio.

Esa especialización explica por qué Google puede prometer menos energía por operación cuando la carga encaja, y también por qué el chip no servía fuera de casa mientras programarlo exigiera JAX. Un equipo que sirve un modelo grande no reescribe su pila entera por un descuento: cambia de proveedor cuando el cambio cabe en una tarde.

TorchTPU cambia ese cálculo. Google lo liberó el 20 de octubre de 2026 y lo desarrolló junto al equipo de PyTorch de Meta con dos promesas concretas: ejecutar código existente con cambios mínimos y permitir la depuración en modo eager antes de optimizar con torch.compile.

La lista de herramientas que lo acompañan incluye vLLM, SGLang, TorchTitan, Ray y llm-d, la pieza que reparte peticiones entre réplicas. Los dos motores de inferencia abiertos que Google integra llegaron con backend propio para TPU: vLLM lo construyó con Inferact y SGLang con RadixArk, las startups de sus creadores.

La consecuencia práctica es que un equipo puede mover tráfico entre GPU y TPU sin reescribir el servicio, algo que el router de llm-d para inferencia distribuida ya resuelve con enrutado por caché de prefijo. Google publicó esa versión 1.0 junto a Red Hat e IBM y más de 500 colaboradores.

Lo que Meta ejecuta hoy y lo que sigue sin firma

La parte confirmada es la producción. Zongwei Zhou, responsable de PyTorch-TPU en Meta, describió SGLang-TorchTPU como una pila madura y afirmó que se ejecuta hoy en producción, después de un trabajo a tres bandas entre Meta, Google y el equipo de SGLang.

El reporte de Tom’s Hardware del 22 de octubre deja abierto dónde están físicamente esas máquinas, y ese detalle cambia el alcance del anuncio. El contrato que sí consta es un alquiler: Meta cerró en febrero de 2026 un acuerdo multianual por miles de millones para arrendar TPU.

Las conversaciones para comprar chips destinados a sus propios centros de datos se situaban en 2027, sin estado público conocido. Alphabet confirmó en julio que había entregado sistemas TPU a centros de datos de clientes por primera vez en el segundo trimestre, sin nombrar a ninguno y con ingresos pequeños hasta 2027.

Con esos datos, la frase «las TPU entran en los centros de datos de Meta» describe un flujo de producción y una intención de compra, no una venta cerrada de hardware instalado en sus naves. La diferencia importa porque el alquiler mantiene a Google dentro de la operación diaria de Meta.

La venta, en cambio, traslada al cliente el riesgo de capacidad y de depreciación. Para Meta, que también firma con NVIDIA y con AMD, el objetivo no es elegir un ganador sino no depender de ninguno.

El incentivo para mover carga es la factura. Meta publica modelos abiertos como Muse Spark Open, su mayor modelo abierto, y cada consulta servida a terceros multiplica el gasto de inferencia de un catálogo que no deja de crecer.

El coste por token, medido con la vara del vendedor

El dato de rendimiento con más detalle sale de una prueba de Inferact, la empresa que ayudó a construir vLLM-TorchTPU. Su configuración de 16 chips Ironwood con decodificación especulativa superó los 700 tokens por segundo por usuario sirviendo Kimi K3, de 2,8 billones de parámetros, frente a los 452 tokens por segundo de 16 GB200.

Conviene matizar de quién son los números. Inferact vende su propio stack y la comparación la firma quien construyó el backend, no un laboratorio independiente. Sin decodificación especulativa, sus kernels para Kimi K3 y Qwen 3.8 27B entregan entre 1,4 y 2 veces el rendimiento de GB200 en lotes pequeños, una horquilla que describe paridad competitiva más que una paliza.

En entrenamiento, Google reporta hasta un 52% de utilización de FLOPS del modelo con Qwen 3 8B repartido en 8.192 TPU Ironwood. En inferencia distribuida, el cliente Zenteiq pasó de 1.470 a 5.970 millones de tokens diarios por cada 1.000 aceleradores TPU v6e al adoptar llm-d.

Son cifras de parte, escogidas por quien vende el servicio, y sirven para ubicar el orden de magnitud del ahorro, no para cerrar una comparación entre plataformas. Lo que sí queda claro es que la diferencia de rendimiento cabe en un factor de dos, no en un orden de magnitud.

El peaje de NVIDIA todavía cobra 75 puntos de margen

Para calibrar la amenaza conviene mirar la caja del proveedor al que se quiere desplazar. NVIDIA cerró su segundo trimestre fiscal, el terminado el 26 de julio, con 89.000 millones de dólares de ingresos de centros de datos y un margen bruto del 75%, cifras que publicó en su comunicado de resultados.

Ese margen es el peaje. Meta comprometió en febrero hasta 60.000 millones en chips de AMD y una compra multimillonaria de las próximas GPU de NVIDIA, lo que indica diversificación de proveedores y no ruptura con el dominante.

Un alquiler de TPU por miles de millones cabe holgadamente en una factura trimestral de 89.000 millones y no mueve la aguja por sí solo. El software es donde se está moviendo la frontera, y el movimiento no es exclusivo de Google.

Amazon liberó TorchNeuron, su backend nativo de PyTorch para los chips Trainium2 y Trainium3, el día anterior en la misma conferencia, lo que deja dos frentes abiertos contra el mismo cuello de botella. Un backend no mejora un chip, pero elimina la excusa para no probarlo.

2027 se decidirá no en el chip, sino en la factura

Todas las partes sitúan 2027 en el calendario. Alphabet espera reconocer allí la mayor parte de los ingresos de sus acuerdos de sistemas TPU, Meta tendrá que decidir si compra o sigue alquilando y RadixArk promete soporte de TPU el día de lanzamiento de los modelos abiertos para el primer trimestre de 2027.

El indicador que conviene vigilar no es la firma de un cliente nuevo, sino el precio por millón de tokens que cada nube publique en su tarifa. Si ese precio baja en las nubes que ofrecen TPU y GPU a la vez, el peaje de NVIDIA tendrá que justificarse con algo más que la biblioteca de siempre.

Si se queda plano, el anuncio de esta semana será una nota de prensa con dos años de ventaja para el dominante. El hardware ya está desplegado y el código ya es abierto; la factura es lo único que todavía no ha cambiado.

José Maldonado

Autor

José Maldonado

Activista y bloguero de tecnología, software libre y blockchain.

Lo último
Teams estrena detección de phishing con IA y contexto

Una lectura semanal imprescindible sobre inteligencia artificial y blockchain.

Te explicamos cómo transforman la economía, qué nuevas puertas te abren y cómo te afectan.