Una PC de 13 años corre la IA más nueva: 5 tokens por segundo

Una PC de 13 años corre la IA más nueva: 5 tokens por segundo

IAGemmaInferencia CPUHardwareModelo Grande

Fuentes:HN + web research · HN

En junio de 2026, un ingeniero llamado Ryan Findley metió en el sótano de su casa el último modelo grande de Google, Gemma 4 (26.000 millones de parámetros), en un viejo servidor de 2013: sin tarjeta gráfica, sin acelerador de IA, alimentado únicamente por dos antiguos CPU Intel Xeon. El resultado: 5 tokens por segundo.

Sí, leíste bien. 5 tokens. Mientras terminas de leer esta frase, apenas suelta la siguiente palabra.

Pero la máquina funcionó. En HN sumó 209 votos y 139 comentarios. La pregunta que encendió a todos: ¿podrá el hardware descartado correr la IA más reciente?

¿Qué tan vieja es esta máquina?

Veamos la configuración de este “viejo”. Era un servidor de almacenamiento HP: las empresas lo compraban para guardar archivos, diseñado para “meter discos”, no para “hacer matemáticas”. Dos CPU Xeon E5-2690 v2 de 2013, con memoria DDR3 de la generación anterior. Hoy cuesta menos de 300 dólares (unos 2.000 yuanes) en el mercado de segunda mano.

Lo más decisivo: le falta un conjunto de instrucciones que casi todo software de IA da por hecho — AVX2. Intel lo añadió a las CPU en 2014, para acelerar operaciones vectoriales masivas. Sin él, es como pedirle a un niño que solo sabe sumar de a uno que resuelva cálculo: puede, sí, pero cada paso se desmenuza en infinitos pasos pequeños.

El autor falló al principio. Siguió el método de otro blogger que lo había logrado en un Xeon de 2016, y el programa se estrelló de inmediato. En sus palabras: “No arrancaba”.

¿Y cómo logró que funcionara?

Aquí hay un detalle, quizá la parte más fascinante de toda la historia.

El autor no es programador de C++. No entiende las densas instrucciones vectoriales del código de bajo nivel. Pero hizo una cosa: le pasó el mensaje de error al asistente de IA Claude y le preguntó: “¿Por qué se cayó?”.

Claude leyó el código ajeno y diagnosticó la causa: su CPU, más vieja que la del otro, carecía de AVX2, y en el código había dos rutas de cálculo críticas que exigían “tener AVX2 para avanzar”. Peor aún: esas rutas se saltaban en silencio — el programa parecía funcionar, pero la salida ya era puro galimatías. La descripción de Claude es reveladora: “el modelo escupía con igual alegría tailandés, coreano, basura y fragmentos en inglés”. Como alguien con la cabeza llena de algodón: dice cualquier cosa, pero nada es cierto.

Luego hizo algo aún más difícil: pidió a Claude que reescribiera esos dos fragmentos, cambiando la exigencia rígida de “debe tener AVX2” por “úsalo si está, si no, toma el canal lento de respaldo”. Con tres parches, el modelo pasó de un galimatías a respuestas en inglés claras y fluidas.

En todo el proceso, el autor fue el “experimentador” y el “juez”: corría pruebas, miraba la salida, decidía “¿esto está bien?”. Quien realmente cambió el código fue otra IA, en otra máquina.

Una IA reparó el código de otra IA sobre hardware viejo. Una CPU de hace trece años y un modelo publicado hace meses llegaron a un acuerdo de la mano de un intermediario.

Los parámetros de línea de comandos que hicieron correr Gemma 4 en el viejo Xeon, un mar de opciones de optimización

Lento, pero suficiente

¿Qué significan 5 tokens por segundo? La versión de pago de ChatGPT suelta entre 30 y 60 por segundo, y a veces más de 100. 5 es, más o menos, la velocidad con la que lees un artículo despacio en el metro.

Para charlar a diario, claro que no alcanza: mientras responde una frase, te da tiempo de preparar un té. Pero el autor propone escenarios reales: un plan B cuando la API de pago cae; o tareas por lotes que no tienen prisa — déjalo procesar documentos toda la noche y revisa por la mañana. En esos casos, la lentitud no es el problema; el problema es si puede correr.

En la comunidad de HN alguien lanzó una predicción optimista: para mediados de 2027, los modelos grandes de más de 200.000 millones de parámetros correrán en dispositivos de consumo comunes. Los escépticos advierten que más parámetros no significan más capacidad, y que un modelo sobrecomprimido pierde calidad. Pero hay un consenso claro: los modelos grandes están bajando de la nube, y más rápido de lo que la mayoría imaginaba.

GPU a precio de oro vs CPU descartada

En los últimos dos años, en el mundo de la IA hubo una ecuación obvia: hacer IA = comprar tarjetas = quemar dinero. Un acelerador H100 de Nvidia cuesta 30.000 o 40.000 dólares, y las empresas los compran por cientos. La entrada a la IA tiene precio fijo.

Pero este blog abrió otra ventana. Un pedazo de chatarra de 300 dólares, sin ningún acelerador, corrió igual un modelo grande de 26.000 millones de parámetros. No es un reemplazo — a 5 tokens por segundo, queda lejos de la velocidad y calidad de la nube. Es más bien una prueba de existencia: demuestra que el umbral no es tan alto, que “debes tener el hardware más nuevo” no es una verdad absoluta.

Esta tensión recorre toda la conversación. De un lado, el imperio de la IA en la nube sostenido por GPU carísimas — rápido, potente, caro. Del otro, el viejo servidor del sótano — lento, torpe, pero gratis. No derriba nada, ni es una revolución, pero sí arranca a la IA de la opción por defecto de “pagar una suscripción” y deja ver otra posibilidad.

¿Qué nos importa esto?

Probablemente no vayas a comprar un servidor de hace trece años para correr IA en casa. Pero la señal real de este blog tiene poco que ver con la etiqueta de 300 dólares.

Lo que vale la pena notar es el proceso que resucitó a la máquina de 13 años. Alguien que no sabe escribir código de bajo nivel, con la ayuda de otra IA, leyó el código de un desconocido, localizó un fallo escondidísimo y escribió el parche. No es magia de “un clic”: el autor corrió experimentos una y otra vez, comparó salidas, descartó ruido, hasta confirmar que el resultado era correcto. La IA hizo el trabajo mental más duro, pero decidir “¿esto está bien o no?” siempre fue humano.

Para mí, esta es la parte más callada y más importante. A medida que la IA razona mejor, se abre una brecha entre “saber escribir código” y “lograr que la máquina haga lo correcto”. Esta última capacidad, a veces, es solo alguien dispuesto a mirar el registro de errores a las dos de la madrugada.

Y esa persona no tiene por qué estar en una oficina de Silicon Valley. Puede estar en el sótano, cuidando un servidor que debió retirarse hace trece años.

Captura de Gemma 4 corriendo en el viejo servidor

Enlaces de referencia:

  • NeoMind Labs: Running Gemma 4 26B on a 13-year-old Xeon
  • Discusión en HN (item?id=48922434)
  • “A 10 year old Xeon is all you need”, el proyecto original que inspiró este artículo