Una reserva de 11,44 GiB de memoria de GPU extraída de 16 GB compartidos
El 16 de octubre de 2026, el desarrollador cobanov lanzó PS5LM v0.9.0, un proyecto de código abierto que permite ejecutar llama.cpp de forma nativa en PlayStation 5 tras casi seis años en el mercado. Al interactuar directamente con la GPU de arquitectura RDNA 2 integrada en la consola para la inferencia, transforma un dispositivo pensado para el salón en un nodo de cómputo local con 11,44 GiB de memoria de vídeo útil.
La clave de ingeniería de PS5LM radica en establecer un canal directo entre la memoria unificada y la GPU. La PS5 cuenta con 16 GB de memoria GDDR6 compartida entre CPU y GPU mediante un bus común con un ancho de banda teórico de 448 GB/s. Empleando la cadena de herramientas abierta ps5-payload-dev, el proyecto compila llama-server como una aplicación nativa instalable (title ID PPSA99581), superando las estrictas restricciones de memoria de los payloads convencionales.
Esta decisión técnica determina el límite máximo de memoria gráfica utilizable. Bajo el esquema de payload tradicional, los desarrolladores solo disponían de unos 64 MiB de búfer de vídeo, quedando excluidos de los 12 GiB de memoria directa principal y del control directo de la GPU. Al empaquetarlo como título nativo se desbloqueó el acceso a la memoria gráfica, haciendo viable la ejecución de modelos de 27 mil millones de parámetros (27B).
Para acelerar las operaciones de cálculo, el proyecto recurre a un controlador Vulkan RADV no oficial adaptado desde Mesa, que opera junto al backend ggml-Vulkan. El controlador RADV mapea la memoria compartida como un único bloque de dispositivo de 11,44 GiB. La arquitectura de memoria unificada elimina por completo la sobrecarga de transferir pesos a través del bus PCIe propia de las tarjetas gráficas dedicadas. Una vez mapeados los pesos, la velocidad de carga queda limitada únicamente por el rendimiento del SSD NVMe interno y el bus del sistema.
Las tarjetas gráficas para PC de gama de consumo en un rango de precio similar suelen incorporar únicamente 8 GB de VRAM. Esta escasez suele impedir incluso el arranque de modelos de lenguaje de gran tamaño. Los 11,44 GiB que ofrece la PS5 eliminan esa barrera física para modelos de parámetros considerables.
Pruebas con modelos de 27B: 20 tok/s con ventana de contexto de 64k
En una consola PS5 Slim, modelos de diferentes escalas exhiben escalones de rendimiento muy claros. Con una ventana de contexto de 4096 tokens, el modelo Qwen3.5 de 0.8B ocupa apenas 0,5 GB de memoria gráfica y alcanza una tasa de decodificación de 207 tok/s. El modelo de 9B, con un consumo de 5,3 GB, sostiene velocidades de 55 tok/s. Estos modelos ligeros ofrecen un rendimiento sobresaliente en la consola, respondiendo con agilidad a interacciones continuas.
El límite práctico superior se sitúa en torno a los modelos de 27B. Las pruebas revelan que la versión UD-Q2_K_XL de Qwen3.8 27B ocupa 9,2 GB de VRAM y alcanza una tasa de decodificación medida de 20 tok/s. La memoria restante permite conservar un contexto de hasta 64k tokens. Una velocidad de generación de 20 tokens por segundo supera el umbral necesario para una interacción conversacional fluida en tiempo real.
El formato de cuantización escogido influye directamente en el rendimiento práctico. Aunque la variante IQ2_XXS para 27B ahorra espacio en memoria, su velocidad de decodificación ronda los 15 tok/s. La opción UD-Q2_K_XL requiere algo más de VRAM, pero ofrece 20 tok/s junto con una calidad de texto sensiblemente más sólida. Para tareas visuales ligeras, d1 Omni 600M utiliza 1,1 GB de memoria gráfica y responde a tres preguntas consecutivas en tan solo 0,3 segundos.
Figura: Panel web que muestra el modelo activo, la velocidad de generación y las peticiones en tiempo real. Fuente: Repositorio PS5LM.
PS5LM desglosa tras cada respuesta el tiempo de procesamiento de entrada (prefill) y la tasa de decodificación de salida. En las primeras compilaciones como título nativo (9 de octubre), la carga de los pesos UD-IQ2_XXS de 27B tomó 82 segundos, oscilando la tasa de generación entre 9 y 21 tok/s. Esta telemetría detallada permite identificar con precisión si el cuello de botella se debe al ancho de banda de memoria o a la saturación de cómputo.
Doble API compatible para funcionar como nodo local permanente
Hacer funcionar la inferencia a bajo nivel no basta para su integración en flujos de desarrollo cotidianos. PS5LM integra un servidor web que convierte la consola en una pasarela de inferencia accesible desde la red local. El servicio implementa compatibilidad directa con las especificaciones de API de OpenAI y Anthropic. De este modo, herramientas de asistencia en programación como Claude Code solo necesitan apuntar al endpoint local para aprovechar el hardware de la consola.
Figura: Consola web que monitoriza en tiempo real el consumo energético, la temperatura y la carga de GPU y CPU. Fuente: Repositorio PS5LM.
El panel web gestiona los modelos y funciona como pantalla de telemetría constante en el televisor. Grafica la temperatura, el consumo de energía y la utilización de los procesadores en ventanas temporales de 2 minutos y 1 hora. Para tareas ligeras de enrutamiento y toma de decisiones, el proyecto también añade soporte para Ollaya mediante la ruta /v1/systemone.
Al inicializar un modelo por primera vez, el sistema sincroniza automáticamente los ajustes de muestreo habituales de LM Studio, conservando parámetros de temperatura, top-p y penalizaciones. El estándar abierto GGUF libera la distribución de modelos de dependencias cerradas. Los desarrolladores pueden copiar directamente archivos cuantizados existentes sin necesidad de lidiar con engorrosas conversiones.
Figura: Vista de gestión de modelos para almacenar e intercambiar archivos de pesos GGUF en local. Fuente: Repositorio PS5LM.
Barreras de firmware y controladores externos complican el mantenimiento
Transformar una videoconsola doméstica en un servidor de inferencia implica lidiar con estrictas restricciones de plataforma. PS5LM requiere una consola con jailbreak en versiones de firmware comprendidas entre 7.00 y 13.60. Los equipos con versiones oficiales actualizadas no admiten la ejecución de código sin firmar. Así, la dificultad de acceso pasa de competir en el mercado de tarjetas gráficas a localizar consolas con revisiones de software vulnerables.
La complejidad de la cadena de arranque también pone a prueba la estabilidad diaria. El entorno precisa cargar de forma secuencial parches de kernel como kstuff-lite y módulos complementarios como etaHEN. El controlador Vulkan RADV no oficial carece de tolerancia a fallos de nivel empresarial ante cargas con alta concurrencia. Los errores del controlador pueden colgar el kernel, obligando a apagar la máquina y repetir el proceso de jailbreak.
En materia legal, el proyecto cuida con celo los límites normativos. El repositorio no contiene código privativo del SDK de Sony, claves criptográficas ni volcados de firmware oficial. El código del controlador RADV se compila de forma local dentro de la propia consola del usuario, evitando infracciones de propiedad intelectual en la distribución. Publicado bajo licencia GPL-3.0, el historial de commits reconoce incluso a Claude Opus 5.5 como coautor.
El frente del cómputo local pasa del hardware al software de plataforma
PS5LM pone de relieve el inmenso potencial de la memoria unificada de gran ancho de banda presente en la electrónica de consumo generalista. Los 16 GB GDDR6 de la PS5 bastan para alimentar la inferencia diaria de modelos de 27B. El principal obstáculo para desplegar IA local ya no radica tanto en la escasez física de memoria, sino en la disponibilidad de controladores abiertos y permisos de ejecución en el firmware.
Una tasa de 20 tok/s resulta más que adecuada para tareas de asistencia y programación ligera. Sin embargo, sin un ecosistema de desarrollo oficial y maduro, la consola difícilmente podrá ser la base de una infraestructura de producción. Mientras los fabricantes mantengan cerradas las interfaces de bajo nivel, los dispositivos del salón seguirán siendo, fundamentalmente, fascinantes bancos de prueba para entusiastas del software libre.
Enlaces de referencia:
- Repositorio de PS5LM en GitHub
- Debate en la comunidad de Hacker News
