Un vieux PC de 13 ans fait tourner la dernière IA, à 5 caractères par seconde

Un vieux PC de 13 ans fait tourner la dernière IA, à 5 caractères par seconde

IAGemmaInférence CPUMatérielGrand Modèle

Sources:HN + web research · HN

En juin 2026, un ingénieur nommé Ryan Findley a installé, dans le sous-sol de sa maison, le dernier grand modèle de Google, Gemma 4 (26 milliards de paramètres), dans un vieux serveur sorti d’usine en 2013 — sans carte graphique, sans puce d’accélération IA, purement à l’aide de deux vieux processeurs Intel Xeon. Résultat : 5 caractères par seconde.

Oui, vous avez bien lu. 5 caractères. Le temps que vous lisiez cette phrase, il vient tout juste de cracher le mot suivant.

Mais la machine tourne. Elle a récolté 209 upvotes et 139 commentaires sur HN. Ce qui a enthousiasmé tout le monde : est-ce qu’un matériel abandonné peut vraiment faire tourner l’IA la plus récente ?

À quel point cette machine est-elle vieille ?

Regardons d’abord la configuration de ce “vieux de la vieille”. À l’origine, c’était un serveur de stockage HP — un modèle que les entreprises achetaient pour stocker des fichiers, conçu pour “empiler des disques”, non pour “faire des maths”. Deux processeurs Xeon E5-2690 v2, produits en 2013, avec de la mémoire DDR3, la génération d’avant. L’ensemble se trouve aujourd’hui d’occasion pour moins de 300 dollars (environ 2 000 yuans).

Le plus critique, c’est qu’il lui manque un jeu d’instructions que presque tout le logiciel IA moderne considère comme acquis : AVX2. C’est un ensemble d’instructions d’accélération qu’Intel n’a intégré aux processeurs qu’en 2014, spécialement pour les calculs vectoriels à grande échelle. Sans cela, c’est comme demander à un écolier qui ne sait additionner que des chiffres seuls de résoudre du calcul intégral : il peut calculer, bien sûr, mais chaque pas doit être découpé en une infinité de tout petits pas.

L’auteur a d’abord échoué, lui aussi. Il a suivi la méthode d’un autre blogueur technique qui avait réussi sur un Xeon de 2016 ; le programme a simplement planté. Dans ses propres mots : “Il ne tourne pas.”

Alors, comment a-t-il réussi à le faire tourner ?

Il y a ici un détail, peut-être la partie la plus fascinante de toute l’histoire.

L’auteur n’est pas programmeur C++. Il ne comprend pas les instructions vectorielles qui fourmillent dans ce code bas niveau. Mais il a fait une chose : il a copié le message d’erreur et l’a soumis à l’assistant IA Claude, en lui demandant “pourquoi ça plante ?”

Claude a lu le code des autres et a diagnostiqué la cause — le processeur de l’auteur est d’une génération antérieure à celui de l’autre, et lui manque AVX2 ; or deux chemins de calcul cruciaux dans le code étaient codés en dur avec l’exigence “il faut obligatoirement AVX2 pour emprunter ce chemin”. Pis encore : ces deux chemins se déclenchent silencieusement — le programme semble fonctionner normalement, mais ce qu’il produit n’est plus qu’un charabia. La formulation originale de Claude pour décrire le phénomène est savoureuse : “the model happily outputs Thai, Korean, garbage tokens, and English fragments.” C’est comme un cerveau embrumé qui ose dire n’importe quoi, sans qu’une seule phrase soit juste.

Puis l’auteur a fait quelque chose de plus rare encore : il a demandé à Claude de réécrire ces deux morceaux de code, remplaçant l’exigence stricte “il faut AVX2” par “si tu l’as, utilise-le ; sinon, prends la voie lente de secours”. Trois correctifs plus tard, le modèle était passé du charabia à des réponses en anglais claires et fluides.

Durant tout le processus, le rôle de l’auteur fut celui d‘“expérimentateur” et de “juge” — lancer les tests, observer les sorties, décider “est-ce que ce résultat est juste ?”. Celui qui a vraiment modifié le code, c’était un autre IA, sur une autre machine.

Une IA a réparé le code d’une autre IA sur du vieux matériel. Un processeur de treize ans et un modèle publié quelques mois plus tôt se sont réconciliés, par la médiation d’un homme.

Les paramètres en ligne de commande qui font tourner le vieux Xeon sous Gemma 4, une myriade d'options d'optimisation

Lent, mais suffisant

Que signifie 5 caractères par seconde ? La version payante de ChatGPT crache généralement 30 à 60 caractères par seconde, et parfois plus de 100. 5 caractères, c’est à peu près la vitesse à laquelle vous lisez un article tranquillement dans le métro.

Pour une conversation quotidienne, c’est évidemment insuffisant. Le temps qu’il réponde une phrase, vous avez le loisir de vous faire une tasse de thé. Mais l’auteur avance plusieurs cas d’usage réels : un plan de secours pour quand l’API payée (interface de programme) tombe en panne ; ou le traitement de lots non urgent — lui confier une pile de documents à traiter pendant la nuit, et lire les résultats le lendemain matin. Dans ces scénarios, la lenteur n’est pas un problème ; le fait que cela tourne, si.

Sur HN, certains ont formulé une prédiction plus optimiste : d’ici le milieu de 2027, des grands modèles de plus de 200 milliards de paramètres pourraient tourner sur du matériel grand public ordinaire. Les sceptiques rappellent qu’un grand nombre de paramètres ne garantit pas de meilleures capacités, et qu’un modèle trop compressé perd en qualité. Mais le consensus des deux camps est clair : les grands modèles descendent du cloud vers le bas, et plus vite que la plupart ne l’imaginent.

GPU à prix d’or contre CPU abandonné

Ces deux dernières années, la communauté IA a tenu pour évidente une égalité : faire de l’IA = acheter des cartes graphiques = brûler de l’argent. Une seule carte d’accélération H100 de Nvidia coûte trente à quarante mille dollars, et les entreprises en achètent par centaines, par milliers. Le billet d’entrée de l’IA, au prix affiché.

Mais ce billet de blog a ouvert une fenêtre différente. Un vieux tas de ferraille à trois cents dollars, sans la moindre carte d’accélération, fait tourner un grand modèle de 26 milliards de paramètres. Ce n’est pas une solution de remplacement — à 5 caractères par seconde, il reste très loin de la vitesse et de la qualité du cloud. C’est plutôt une preuve d’existence : la preuve que le seuil n’est pas aussi haut qu’on le croyait, la preuve que “vous devez avoir le dernier matériel” n’est pas une vérité absolue.

Cette tension traverse toute la discussion. D’un côté, l’empire de l’IA cloud soutenu par des GPU à prix d’or — rapide, puissant, coûteux. De l’autre, le vieux serveur du sous-sol — lent, maladroit, mais gratuit. Il ne renverse rien, ne fait pas la révolution, mais il arrache bel et bien l’IA à l’option par défaut de “l’abonnement payant”, et laisse entrevoir une autre possibilité.

Qu’est-ce que ça nous dit ?

Vous n’allez sans doute pas acheter un serveur de treize ans pour faire tourner de l’IA chez vous. Mais le véritable signal de ce billet a peu à voir avec l’étiquette de prix de 300 dollars.

Ce qui mérite vraiment attention, c’est le processus même qui a ressuscité cette machine de treize ans. Un homme qui ne sait pas écrire de code bas niveau, aidé par un autre IA, a su lire le code d’un inconnu, localiser une faille profondément enfouie, et écrire des correctifs. Ce n’est pas la magie du “réparer en un clic” — l’auteur a répété les expériences, comparé les sorties, écarté les facteurs de bruit, jusqu’à se convaincre que le résultat était correct. L’IA a fait le travail intellectuel le plus dur, mais c’est l’homme qui a tranché : “est-ce que c’est juste, au fond ?”

C’est, à mon sens, la part la plus silencieuse et la plus importante de toute l’histoire. À mesure que la capacité de raisonnement de l’IA se renforce, la distance se creuse entre “savoir écrire du code” et “savoir faire faire la bonne chose à la machine”. Cette seconde capacité, parfois, se résume à une personne prête à fixer les journaux d’erreur à deux heures du matin.

Et cette personne n’est pas nécessairement assise dans un bureau de la Silicon Valley. Elle peut être dans un sous-sol, aux côtés d’un serveur qui aurait dû prendre sa retraite treize ans plus tôt.

Capture d'écran de Gemma 4 tournant sur le vieux serveur

Liens de référence :

  • NeoMind Labs : Running Gemma 4 26B on a 13-year-old Xeon
  • Discussion HN (item?id=48922434)
  • “A 10 year old Xeon is all you need”, l’article original (le projet à l’origine de ce billet)