Krea 2 open-source: 12B parámetros cerca del SOTA cerrado

Krea 2 open-source: 12B parámetros cerca del SOTA cerrado

IAGeneración de ImágenesKreaCódigo AbiertoTexto a Imagen

Fuentes:HN + Krea Blog · HN

El 23 de junio de 2026, Krea publicó un informe técnico de 58 minutos de lectura y, simultáneamente, subió los pesos de Krea 2 a Hugging Face.

Sin calentamiento previo, sin cuenta atrás. Un modelo MMDiT de 12B parámetros, en el top 10 del ranking de texto-a-imagen de Artificial Analysis, segundo entre los modelos de laboratorios independientes, empatado con Nano Banana, y —lo crucial— se puede ejecutar en local. En r/StableDiffusion, alguien calificó la reacción de la comunidad como «una locura».

No es otro proyecto de investigación que escala un ranking y desaparece en el océano de papers. Krea 2 publicó dos variantes: RAW (sin destilar, para fine-tuning y entrenamiento de LoRA) y Turbo (destilación de guía + destilación de pasos temporales, 8 pasos para generar). ComfyUI, Ostiris, musubi tuner, fal y Hugging Face Diffusers ofrecieron soporte el mismo día del lanzamiento. El CTO Diego Rodríguez escribió en HN: «Publicamos un checkpoint en la fase de mid-training y otro en post-training, algo poco común en la comunidad de imagen/multimodal.”

Tras leer el informe técnico y los 35 comentarios en HN, el autor quiere trazar, desde la perspectiva de un observador de ingeniería, qué decisiones tomó Krea 2 en arquitectura, estrategia de entrenamiento y costes de despliegue, y qué significan para el ecosistema open-source de generación de imágenes.

Arquitectura: construyendo con bloques sobre hombros de los LLM

Las decisiones arquitectónicas de Krea 2 siguen una línea clara: siempre que un componente haya sido validado por la comunidad LLM, se adopta prioritariamente.

El esqueleto base es un MMDiT (Multi-Modal Diffusion Transformer) de flujo único, donde los tokens de texto y de imagen comparten el mismo conjunto de pesos de atención y MLP. El equipo también probó el flujo dual (pesos independientes para texto e imagen) y el flujo híbrido (primer tercio dual, dos tercios finales unificados), donde el híbrido mostró una ligera ventaja, pero optaron por el flujo único por simplicidad, en sintonía con el gusto de la comunidad LLM por «simple antes que complejo».

Varios resultados de ablación merecen atención:

Mecanismo de atención: pasaron de atención multi-cabeza a Grouped Query Attention (GQA), añadiendo además una capa de atención con puerta sigmoide (sigmoid-gated attention). GQA redujo la sobrecarga computacional; la gated attention no mejoró significativamente el rendimiento, pero alisó las curvas de loss y de norma de gradiente durante el entrenamiento, lo que a escala de entrenamiento distribuido con miles de GPUs significa menos crashes y menos señales de on-call a medianoche.

MLP: sustituyeron GeLU por SwiGLU, con un factor de expansión 4x. Es el estándar de facto en LLMs, y la ablación de Krea 2 valida que funciona igual de bien en transformers de difusión.

Modulación por paso temporal: posiblemente la decisión más pragmática. El MMDiT estándar asigna a cada bloque del transformer un MLP para generar factores de scale/shift/gate, y estos MLP pueden representar entre el 20% y el 30% del total de parámetros. Krea 2 los reemplaza por sesgos aprendibles por bloque, redirigiendo los parámetros ahorrados hacia las propias capas de atención y MLP. El autor considera que este compromiso demuestra mucho criterio de ingeniería: invertir más del 20% de los parámetros para condicionar una variable escalar (el paso temporal t) parece un lujo.

Codificador de texto: partieron de T5-XXL como línea base y finalmente eligieron Qwen3-VL. La innovación clave está en no limitarse a la última capa de características del VLM: introdujeron una capa superficial de atención que agrega características ocultas a través de capas, permitiendo al modelo seleccionar dinámicamente representaciones textuales desde granularidad gruesa hasta fina. El equipo señala que las características de la última capa de un LLM autorregresivo están optimizadas para predicción de siguiente token y no son adecuadas directamente para generación de imágenes —esta idea no es nueva (papers como Unifusion ya la han discutido), pero llevarla a un modelo de producción es otra historia.

Otros componentes: codificación posicional con 3D Axial RoPE, normalización con RMSNorm centrado en cero + QKNorm, autoencoder que comenzó con Qwen Image VAE para el escalado inicial del modelo y migró posteriormente a FLUX 2 VAE.

La impresión general del autor es que la arquitectura de Krea 2 no introduce diseños radicalmente nuevos. Su estrategia consiste en seleccionar mejoras ya validadas por la comunidad LLM, realizar ablaciones una a una sobre el transformer de difusión, conservar lo que funciona y eliminar lo redundante. Este enfoque de «ventaja del segundo jugador» permite al equipo concentrar más esfuerzo en el propio pipeline de entrenamiento.

Entrenamiento: trasladando el playbook de los LLM a los modelos de difusión

Si las decisiones arquitectónicas son conservadoras, el pipeline de entrenamiento muestra una ambición mayor.

Estrategia de datos: el conjunto de datos de preentrenamiento de Krea 2 alcanza miles de millones de imágenes, y explícitamente no utiliza ninguna imagen generada por IA. El equipo sostiene que incluso una pequeña cantidad de imágenes sintéticas introduce sesgos en la distribución de salida del modelo: las imágenes sintéticas son más fáciles de aprender, lo que impone un techo implícito a la calidad del modelo. El filtrado de datos también es notablemente comedido: solo eliminan muestras duplicadas, muestras que el VLM no puede describir con precisión, muestras que inducen sesgos o artefactos no deseados, e imágenes de alta complejidad difíciles de modelar fiablemente a baja resolución. Esto contrasta con el enfoque dominante de «cuanto mayor sea la puntuación de calidad, mejor»: una imagen borrosa, si es una elección artística deliberada, no debería ser filtrada.

Pipeline multifase: Preentrenamiento (resolución progresiva 256px→512px→1024px) → Midtraining (puente entre la distribución general y la distribución SFT de alta calidad) → Supervised Fine-Tuning (SFT, conjunto pequeño curado manualmente de imágenes de alta calidad estética) → Optimización de preferencias (PO, algoritmo propio STPO que introduce una pérdida auxiliar sobre DPO para suprimir la divergencia de política) → Reinforcement Learning (RL, estilo GRPO con múltiples modelos de recompensa) → Destilación de pasos temporales (TDM, Trajectory Distribution Matching).

Esta estructura de pipeline es prácticamente un trasplante directo del paradigma de entrenamiento de LLMs. La fase de midtraining merece especial atención: habitualmente se usa en LLMs para precalentar la distribución del modelo antes del SFT; Krea 2 la introduce en modelos de difusión para equipar capacidades downstream como generación de alta fidelidad y renderizado de texto. El CTO comentó en HN que «publicamos un checkpoint en la fase de mid-training», algo poco común en la comunidad de modelos de imagen, y más propio de los hábitos de publicación de la comunidad LLM.

Detalles de la fase RL: Krea 2 usó cuatro modelos de recompensa: modelo de estética general, recompensa de seguimiento de prompt, recompensa de renderizado de texto y recompensa de detección de artefactos estructurales. El equipo observó que optimizar solo por estética y seguimiento de prompt conducía al «reward hacking»: el modelo generaba imágenes que a primera vista parecían correctas pero contenían defectos estructurales (dedos sobrantes, extremidades deformadas, texto distorsionado). Por ello entrenaron específicamente un modelo de detección de artefactos como señal adversarial. Además, el filtrado del pool de prompts se modeló como un problema de asignación de recursos: el cómputo de entrenamiento debe asignarse preferentemente a las muestras de las que el modelo «aún puede aprender», no a las ya saturadas o excesivamente ruidosas.

Selección de optimizador: el principal fue AdamW. El equipo también exploró Muon, encontrando que converge más rápido en los pasos iniciales pero es inferior a AdamW en ciclos largos de entrenamiento; al añadir momento de Nesterov y excluir las capas lineales de entrada y salida, Muon superó a AdamW, pero por limitaciones de tiempo no se usó en el preentrenamiento final. El entrenamiento en 8 bits aportó una mejora de velocidad del 15-20% en las fases de 256px y 512px; a partir de 1024px se volvió a bf16.

Inferencia y despliegue: la frontera de lo «desplegable» a 12B

Krea 2 Turbo genera imágenes en solo 8 pasos de muestreo, lo que lo sitúa en una posición ambigua. Las pruebas de GenAI Showdown en HN muestran que, entre los modelos que se pueden alojar localmente, Krea 2 obtiene la puntuación más alta, solo por detrás de Ideogram 4, que requiere minutos por imagen. La diferencia de velocidad es de segundos frente a minutos.

Con 12B parámetros, una GPU de consumo de 24 GB de VRAM (como la RTX 4090) puede ejecutarlo, y con 48 GB (A6000) va aún más holgado. Considerando la sobrecarga adicional del autoencoder y el codificador de texto, el consumo real en inferencia puede ser algo mayor, pero sigue dentro de lo aceptable. El soporte de ComfyUI desde el día 0 y la cadena de herramientas de entrenamiento LoRA significan que la comunidad puede empezar a personalizar inmediatamente: entrenar LoRA en el checkpoint RAW y luego aplicarlo en Turbo para inferencia es el flujo de trabajo recomendado por el equipo.

Cabe destacar que Krea no se limitó a la destilación de guía convencional, sino que aplicó simultáneamente destilación de guía y destilación de pasos temporales (mediante TDM), comprimiendo los pasos de inferencia a 8 sin perder la flexibilidad del muestreo multipaso. El informe menciona que consideraron DMD, DMD2, Decoupled DMD, piFlow, APT y otros métodos de destilación, y la razón para elegir TDM fue simple: pocos hiperparámetros, fácil de ajustar y compatible con destilación multipaso flexible.

Posición en el ecosistema: el mapa del open-source en generación de imágenes en 2026

Situando Krea 2 en el ecosistema open-source de generación de imágenes de mediados de 2026, su posición se aclara.

La serie Flux.1 (Black Forest Labs) sigue siendo el peso pesado de la comunidad open-source, con 12B parámetros y especialmente fuerte en estilos de fotografía fotorrealista. Stable Diffusion 3.5 Large (8B) y SD3 Medium son amigables para hardware de gama media-baja. Ideogram 4 puede ser ligeramente superior en benchmarks de calidad de imagen, pero su velocidad de inferencia es mucho más lenta. Qwen-Image y ZiT también están iterando rápidamente.

El diferencial de Krea 2 no está en la calidad absoluta —los datos de Artificial Analysis lo sitúan en el primer pelotón, no en la cima— sino en su posicionamiento como modelo de «diversidad estética». El equipo se fija explícitamente el objetivo de ser un «modelo fundacional para exploración creativa» y no «una estética por defecto pulida». El prompt expander y el sistema de Style Reference son la concreción de este enfoque: el primero mapea prompts cortos del usuario a descripciones ricas y amigables para el modelo (mediante entrenamiento SFT+RL bifásico basado en un LLM open-source), y el segundo permite al usuario inyectar estilo mediante imágenes de referencia, con mezcla ponderada de múltiples estilos y control continuo de intensidad.

Un comentario en HN lo resume bien: «Aprecio la mentalidad de ‘mantener la anchura de la variedad’: intentar que el modelo cubra múltiples estilos en lugar de ‘domesticarlo’ para una docena de preajustes estilísticos.» También hay voces escépticas que consideran que, frente a modelos agentivos composicionales como Nano Banana 2 o Images 2.0, los modelos puramente T2I pueden estar «peleando la guerra anterior». La respuesta del CTO de Krea es que los flujos agentivos son compatibles con Krea 2, que los modelos de edición están en camino, y que la personalización open-source (LoRA de marca, etc.) es algo que las APIs cerradas no pueden reemplazar.

Observación final

El informe técnico de Krea 2 es un documento de ingeniería notablemente honesto. No exagera el avance de ninguna tecnología concreta, sino que muestra cómo una serie de decisiones técnicas pragmáticas funcionan a escala de 12B parámetros. Desde las ablaciones de arquitectura hasta la infraestructura de entrenamiento distribuido (Kubernetes + Kueue + Virtual Kubelet personalizado para escalado elástico de inferencia), pasando por el entrenamiento en 8 bits o la experiencia diagnosticando fallos en enlaces InfiniBand, estos detalles constituyen el verdadero valor del informe.

El autor considera que la señal más importante de Krea 2 no es «el open-source vuelve a alcanzar al código cerrado», una narrativa ya demasiado repetida. Lo realmente destacable es que un laboratorio independiente, construyendo desde cero su infraestructura de datos y su framework de entrenamiento distribuido, haya alcanzado con 12B parámetros un nivel de calidad cercano a los modelos cerrados más vanguardistas. Esto significa que las barreras competitivas en el ámbito de la generación de imágenes podrían ser más frágiles de lo que muchos suponen.

Naturalmente, lo anterior no es más que una opinión personal basada en información pública. Los detalles técnicos deben remitirse al informe oficial de Krea y a la página de publicación del modelo.


Declaración del autor: Este artículo se basa en el análisis del informe técnico público, debates de la comunidad y datos de benchmarks. No se ha recibido remuneración ni instrucciones del equipo de Krea. Todas las valoraciones técnicas son opiniones personales, y se agradecen los debates y correcciones basados en hechos.