11,44 Gio de tas GPU alloués directement depuis 16 Go de mémoire partagée
Le 16 octobre 2026, le développeur cobanov a publié la version 0.9.0 du projet open source PS5LM. Près de six ans après la sortie de la PlayStation 5, ce projet permet d’exécuter llama.cpp de manière native sur la console de Sony. En sollicitant directement le GPU à architecture RDNA 2 intégré pour l’inférence de modèles, il transforme une console de salon en un nœud de calcul local doté de 11,44 Gio de mémoire vidéo exploitable.
La clé technique de PS5LM réside dans l’établissement d’une liaison directe entre la mémoire unifiée et le processeur graphique. La PS5 embarque 16 Go de mémoire GDDR6 partagée entre le CPU et le GPU sur un bus unique offrant une bande passante théorique de 448 Go/s. En s’appuyant sur la chaîne d’outils open source ps5-payload-dev, le projet compile llama-server sous forme d’application native installable (title ID PPSA99581), rompant ainsi avec les payloads traditionnels très limités en mémoire.
Ce choix d’architecture fixe la limite de mémoire vidéo utilisable. Sous forme de simple payload, les développeurs devaient se contenter d’environ 64 Mio de mémoire vidéo tampon, privés de tout accès direct aux 12 Gio de mémoire principale ainsi qu’au GPU. Son intégration en tant que titre natif débloque l’allocation de la VRAM, rendant enfin possible l’exécution locale de modèles de 27 milliards de paramètres (27B).
Côté pipeline de calcul, le projet fait appel à une version non officielle du pilote Vulkan RADV issue de Mesa, couplée au backend ggml-Vulkan. Le pilote RADV identifie cette mémoire partagée comme un bloc GPU unique de 11,44 Gio. L’architecture de mémoire unifiée élimine le transfert fastidieux des poids via le bus PCIe, inhérent aux cartes graphiques dédiées. Une fois le mappage effectué, le chargement des poids n’est restreint que par le débit du SSD NVMe interne et du bus système.
Les cartes graphiques pour PC grand public situées dans la même tranche de prix ne proposent généralement que 8 Go de mémoire vidéo. Cette contrainte physique empêche souvent le simple amorçage des modèles de grande taille. Les 11,44 Gio utilisables sur la PS5 lèvent ainsi un obstacle matériel majeur pour faire tourner des architectures complexes.
20 tok/s mesurés sur un modèle 27B avec une fenêtre de contexte de 64k
Sur une PS5 Slim, les performances se ventilent très distinctement selon la taille des paramètres. Avec un contexte de 4096 tokens, le modèle Qwen3.5 de 0.8B ne consomme que 0,5 Go de mémoire graphique pour une vitesse de décodage atteignant 207 tok/s. Le modèle de 9B, qui mobilise 5,3 Go de mémoire, maintient une cadence de 55 tok/s. Ces modèles légers affichent un excellent débit sur console, répondant sans peine aux échanges fréquents.
Le seuil d’exploitation maximal se situe autour des modèles de 27B. Les bancs d’essai montrent que la version UD-Q2_K_XL de Qwen3.8 27B occupe 9,2 Go de VRAM et assure une vitesse de décodage mesurée de 20 tok/s. La mémoire restante permet de maintenir une fenêtre de contexte de 64k tokens. Un rythme de 20 tokens par seconde franchit précisément le cap nécessaire pour offrir une interaction fluide en temps réel.
Le choix du format de quantification influe nettement sur le débit pratique. La variante IQ2_XXS pour 27B économise de l’espace mais plafonne à environ 15 tok/s. En concédant un peu plus de mémoire, le profil UD-Q2_K_XL assure 20 tok/s tout en améliorant sensiblement la qualité de génération textuelle. Pour les tâches de vision légères, d1 Omni 600M utilise 1,1 Go de VRAM et traite 3 requêtes consécutives en 0,3 seconde.
Figure : Le tableau de bord affiche le modèle en mémoire, la cadence de génération et le flux des requêtes en temps réel. Source : Dépôt PS5LM.
À chaque requête d’inférence, PS5LM sépare le temps d’évaluation du prompt (prefill) de la vitesse de génération des tokens. Lors des premières versions natives (le 9 octobre), le chargement des poids UD-IQ2_XXS de 27B nécessitait 82 secondes, la vitesse oscillant alors entre 9 et 21 tok/s. Cette télémétrie fine permet d’identifier précisément si la congestion provient de la bande passante mémoire ou de la saturation du calcul brut.
Une double API pour transformer la console en serveur d’inférence permanent
Faire fonctionner les appels bas niveau ne répond qu’à une partie des attentes des développeurs. PS5LM intègre un serveur web qui transforme la console de jeu en une passerelle d’inférence partagée sur le réseau local. Le service s’aligne à la fois sur les spécifications d’API d’OpenAI et d’Anthropic. Un outil de programmation assistée comme Claude Code peut ainsi solliciter le calcul de la PS5 par simple redirection d’adresse IP.
Figure : Console web surveillant en continu la consommation énergétique, les températures et les courbes de charge GPU/CPU. Source : Dépôt PS5LM.
L’interface web gère l’ordonnancement des modèles tout en servant d’écran de contrôle permanent sur le téléviseur du salon. Elle affiche en direct l’évolution de la température, de la consommation électrique et de l’utilisation des processeurs, avec des fenêtres d’analyse configurables à 2 minutes ou 1 heure. Pour les arbitrages et décisions rapides, le projet intègre également un routage Ollaya via l’endpoint /v1/systemone.
Au premier chargement d’un modèle, le système synchronise automatiquement les réglages d’échantillonnage de LM Studio (température, top-p, pénalités). L’adoption du standard GGUF affranchit l’utilisateur des écosystèmes propriétaires. Les développeurs peuvent directement transférer des fichiers déjà quantifiés sans devoir passer par de fastidieuses conversions de formats.
Figure : Page de gestion des modèles pour stocker, analyser et intervertir les fichiers de poids GGUF en local. Source : Dépôt PS5LM.
Verrous de firmware et pilotes non officiels compliquent la maintenance
Faire d’une console de jeu un serveur d’inférence reste tributaire de fortes contraintes techniques. PS5LM exige une console jailbreakée dont le firmware est compris entre les versions 7.00 et 13.60. Tout appareil équipé d’une version logicielle officielle récente refuse d’exécuter du code non signé. La rareté matérielle ne réside donc plus dans la disponibilité des cartes graphiques, mais dans la recherche de consoles dotées de firmwares compatibles.
La chaîne logicielle requiert elle aussi une maintenance méticuleuse. L’environnement doit charger successivement le correctif de noyau kstuff-lite et des modules comme etaHEN. Le pilote Vulkan RADV adapté de façon non officielle ne garantit pas la tolérance aux pannes d’un logiciel d’entreprise en cas de forte charge simultanée. Les plantages du pilote provoquent régulièrement des blocages du noyau, imposant un redémarrage forcé suivi d’une nouvelle séquence de jailbreak.
Le projet a pris soin de respecter scrupuleusement le cadre juridique. Le dépôt ne contient aucun code du SDK propriétaire de Sony, aucune clé de chiffrement ni aucune image de firmware officiel. Le pilote RADV est compilé directement sur la machine de l’utilisateur final, éliminant tout risque de contrefaçon logicielle à la distribution. Distribué sous licence GPL-3.0, l’historique des commits mentionne même Claude Opus 5.5 comme coauteur.
L’enjeu de l’IA locale se déplace vers les pilotes et les droits système
PS5LM met en évidence le potentiel inexploité de la mémoire unifiée à haut débit présente dans nos appareils de divertissement. Les 16 Go de mémoire GDDR6 unifiée de la PS5 suffisent amplement à soutenir l’inférence de modèles de 27B pour un usage quotidien. L’obstacle majeur au déploiement de l’IA locale ne tient plus seulement aux limitations physiques de la mémoire, mais à l’ouverture des pilotes et aux droits d’accès sur le système.
Une cadence de 20 tok/s répond très bien aux besoins d’assistance au code ou de dialogue. Cependant, sans écosystème logiciel officiel et éprouvé, la console ne saurait constituer une infrastructure de production critique. Tant que les constructeurs verrouilleront les interfaces bas niveau, les machines de salon demeureront avant tout des bancs d’essai passionnants réservés aux bidouilleurs.
Liens utiles :
- Dépôt GitHub PS5LM
- Discussion sur Hacker News
