Le 23 juin 2026, Krea publie un rapport technique d’une durée de lecture de 58 minutes et dépose simultanément les poids de Krea 2 sur Hugging Face.
Pas de teasing, pas de compte à rebours. Un modèle MMDiT de 12 milliards de paramètres, classé dans le top 10 du benchmark texte-vers-image d’Artificial Analysis, deuxième parmi les modèles de laboratoires indépendants, à égalité avec Nano Banana — et surtout, exécutable en local. Sur r/StableDiffusion, la réaction de la communauté tient en un mot : « dingue ».
Il ne s’agit pas d’un énième projet de recherche qui truste un benchmark avant de disparaître dans l’océan des papiers. Krea 2 sort en deux variantes : RAW (non distillé, pour le fine-tuning et l’entraînement de LoRA) et Turbo (distillation guidée + distillation par pas de temps, 8 étapes pour produire une image). ComfyUI, Ostiris, musubi tuner, fal, Hugging Face Diffusers ont fourni le support dès le jour de la sortie. Diego Rodriguez, CTO, a écrit sur HN : « Nous avons publié un checkpoint à l’étape de mid-training et un autre à l’étape de post-training, ce qui est rare dans la communauté image / multimodale. ”
Après avoir lu ce rapport technique et les 35 commentaires sur HN, l’auteur souhaite, du point de vue d’un observateur en ingénierie, examiner les choix de Krea 2 en matière d’architecture, de stratégie d’entraînement et de coûts de déploiement, et ce que ces choix signifient pour l’écosystème open source de la génération d’images.
Architecture : construire sur les épaules des LLM
Les décisions architecturales de Krea 2 suivent une ligne claire : chaque composant validé par la communauté LLM est adopté en priorité.
Le squelette de base est un MMDiT (Multi-Modal Diffusion Transformer) à flux unique, où les tokens texte et image partagent les mêmes poids d’attention et de MLP. L’équipe a également testé le flux double (poids indépendants pour le texte et l’image) et le flux hybride (premier tiers en flux double, deux derniers tiers en flux unique). Le flux hybride montrait un léger avantage, mais le flux unique a été retenu par souci de simplicité — un goût cohérent avec la philosophie « simple plutôt que complexe » de la communauté LLM.
Les résultats d’ablation sur plusieurs composants clés méritent l’attention :
Mécanisme d’attention : l’attention multi-tête a été remplacée par une attention par requête groupée (GQA), avec l’ajout d’une couche d’attention à porte sigmoïde (sigmoid-gated attention). GQA réduit le coût de calcul, et si l’attention gated n’a pas significativement amélioré la performance, elle a rendu les courbes de loss et de norme des gradients plus lisses pendant l’entraînement — ce qui, en entraînement distribué à l’échelle du millier de GPU, se traduit par moins de crashs et moins de pages d’astreinte à 3h du matin.
MLP : GeLU remplacé par SwiGLU, ratio d’expansion de 4x. C’est déjà un standard de facto dans les LLM ; l’ablation de Krea 2 confirme son efficacité également sur un Transformer de diffusion.
Modulation par pas de temps : c’est probablement la décision la plus pragmatique. Le MMDiT standard équipe chaque bloc Transformer d’un MLP dédié pour générer les facteurs scale/shift/gate, ces MLP pouvant représenter 20 à 30 % des paramètres totaux. L’approche de Krea 2 consiste à remplacer ces MLP par bloc par des biais apprenables par bloc — et à réallouer les paramètres économisés aux couches d’attention et de MLP proprement dites. L’auteur trouve cet arbitrage révélateur d’un véritable jugement d’ingénieur : consacrer plus de 20 % des paramètres à une condition scalaire (le pas de temps t) semble en effet un luxe.
Encodeur de texte : le point de départ était T5-XXL, le choix final est Qwen3-VL. L’innovation clé réside dans le fait de ne pas se limiter aux features de la dernière couche du VLM — une couche d’attention superficielle agrège les features cachées à travers les couches, permettant au modèle de sélectionner dynamiquement des représentations textuelles allant du gros grain au grain fin. L’équipe souligne que les features de dernière couche d’un LLM auto-régressif sont optimisées pour la prédiction du token suivant et ne conviennent pas directement à la génération d’images — cette intuition n’est pas nouvelle (des papiers comme Unifusion l’ont déjà abordée), mais la faire atterrir dans un modèle de production est une autre affaire.
Autres composants : encodage positionnel par 3D Axial RoPE, normalisation par RMSNorm centré sur zéro + QKNorm, auto-encodeur d’abord basé sur le VAE de Qwen Image pour la montée en échelle précoce, puis migration vers le VAE de FLUX 2.
L’impression générale de l’auteur : l’architecture de Krea 2 n’introduit pas de nouveauté radicale. La stratégie consiste à passer au crible les améliorations déjà validées par la communauté LLM, à les ablater une par une sur un Transformer de diffusion, à garder ce qui marche et à couper le redondant. Ce choix architectural d’« avantage du second arrivant » permet à l’équipe de consacrer davantage d’énergie au pipeline d’entraînement lui-même.
Entraînement : transposer le playbook des LLM aux modèles de diffusion
Si les choix architecturaux penchent vers le conservatisme, le pipeline d’entraînement affiche une ambition bien plus grande.
Stratégie de données : le jeu de données de pré-entraînement de Krea 2 atteint plusieurs milliards d’images, avec une règle explicite : aucune image générée par IA n’est utilisée. L’équipe estime que même une faible proportion d’images synthétiques introduit un biais dans la distribution de sortie du modèle — les images synthétiques sont plus faciles à apprendre, ce qui impose un plafond implicite à la qualité du modèle. Le filtrage des données est également remarquablement sobre : seuls sont écartés les doublons, les échantillons que le VLM ne parvient pas à décrire correctement, les échantillons susceptibles d’induire des biais ou artefacts indésirables, et les images de trop haute complexité difficilement modélisables en basse résolution. Cela contraste avec l’approche dominante du « score de qualité toujours plus élevé » — une image floue, si c’est un choix artistique délibéré, ne doit pas être filtrée.
Pipeline multi-étapes : pré-entraînement (256px → 512px → 1024px en résolution progressive) → mid-training (pour faire le pont entre la distribution générique et la distribution SFT de haute qualité) → fine-tuning supervisé (SFT, petit volume d’images sélectionnées manuellement pour leur haute qualité esthétique) → optimisation de préférences (PO, avec STPO, une méthode maison introduisant une loss auxiliaire pour supprimer la divergence de politique au-dessus de DPO) → apprentissage par renforcement (RL, type GRPO avec multiples modèles de récompense) → distillation par pas de temps (TDM, Trajectory Distribution Matching).
Cette structure en pipeline est une transposition quasi directe du paradigme d’entraînement des LLM. L’étape de mid-training mérite une attention particulière — habituellement utilisée dans les LLM pour réchauffer la distribution du modèle avant le SFT, Krea 2 l’introduit dans les modèles de diffusion pour équiper le modèle de capacités aval comme la génération haute fidélité et le rendu de texte. Le CTO a noté sur HN : « Nous avons publié un checkpoint à l’étape de mid-training », une pratique rare dans la communauté des modèles d’image et qui ressemble davantage aux usages de publication de la communauté LLM.
Détails de l’étape RL : Krea 2 s’appuie sur quatre modèles de récompense — un modèle d’esthétique générale, une récompense de suivi de prompt, une récompense de rendu de texte, et une récompense de détection d’artefacts structurels. L’équipe a observé qu’optimiser uniquement l’esthétique et le suivi de prompt conduit à du « reward hacking » : le modèle génère des images qui semblent correctes au premier abord mais contiennent des défauts structurels (doigts surnuméraires, membres difformes, texte tordu). Un modèle de détection d’artefacts a donc été spécialement entraîné comme signal antagoniste. Par ailleurs, la sélection du pool de prompts est modélisée comme un problème d’allocation de ressources — le budget de calcul d’entraînement doit être davantage alloué aux échantillons pour lesquels le modèle « peut encore apprendre quelque chose », plutôt qu’à ceux déjà saturés ou trop bruités.
Choix de l’optimiseur : AdamW est le principal. L’équipe a également exploré Muon, constatant qu’il converge plus vite dans les premières étapes mais sous-performe AdamW sur des cycles d’entraînement longs ; avec l’ajout du momentum de Nesterov et l’exclusion des couches linéaires de tête et de queue, Muon rattrape puis dépasse AdamW, mais les contraintes de calendrier n’ont pas permis de l’utiliser pour le pré-entraînement final. L’entraînement en 8-bit a apporté un gain de vitesse de 15–20 % aux étapes 256px et 512px ; à partir de 1024px, retour au bf16.
Inférence et déploiement : la frontière « déployable » du 12B
Krea 2 Turbo produit une image en seulement 8 étapes d’échantillonnage, ce qui le place dans une position délicate. Le test GenAI Showdown sur HN montre que parmi les modèles hébergeables localement, Krea 2 obtient le meilleur score, juste derrière Ideogram 4 qui nécessite plusieurs minutes par image. L’écart de vitesse se mesure en secondes contre minutes.
Avec 12 milliards de paramètres, le modèle peut tourner sur un GPU grand public de 24 Go de VRAM (type RTX 4090), un 48 Go (A6000) offrant plus d’aisance. En tenant compte du surcoût de l’auto-encodeur et de l’encodeur de texte, l’empreinte mémoire réelle en inférence peut grimper, mais reste dans des limites acceptables. Le support Day-0 de ComfyUI et la chaîne d’outils d’entraînement LoRA signifient que la communauté peut commencer à personnaliser immédiatement — entraîner un LoRA sur le checkpoint RAW, puis l’accrocher au Turbo pour l’inférence, c’est le workflow recommandé par l’équipe.
Il est notable que l’équipe Krea ne s’est pas arrêtée à la distillation guidée classique : ils ont appliqué simultanément la distillation guidée et la distillation par pas de temps (via TDM), compressant le nombre d’étapes d’inférence à 8 tout en préservant la flexibilité de l’échantillonnage multi-étapes. Le rapport mentionne qu’ils ont envisagé DMD, DMD2, Decoupled DMD, piFlow, APT et d’autres méthodes de distillation, et que le choix final de TDM repose sur une raison simple : peu d’hyperparamètres, facile à tuner, support flexible de la distillation multi-étapes.
Position dans l’écosystème : le paysage de la génération d’images open source en 2026
Replacer Krea 2 dans l’écosystème open source de la génération d’images à la mi-2026 permet d’en voir les contours plus nettement.
La série Flux.1 (Black Forest Labs) reste un poids lourd de la communauté open source, 12B de paramètres, particulièrement dominante en style photo réaliste. Stable Diffusion 3.5 Large (8B) et SD3 Medium sont faciles à déployer sur du matériel d’entrée et de milieu de gamme. Ideogram 4 est peut-être légèrement supérieur sur les benchmarks de qualité d’image, mais son inférence est bien plus lente. Qwen-Image et ZiT itèrent également rapidement.
La différenciation de Krea 2 ne se situe pas dans la qualité absolue — les données d’Artificial Analysis le placent dans le premier peloton, pas au sommet — mais dans le positionnement sur la « diversité esthétique ». L’équipe définit explicitement l’objectif comme « un modèle fondamental pour l’exploration créative » plutôt qu’une « esthétique par défaut unique et peaufinée ». Le prompt expander et le système de Style Reference sont la traduction concrète de ce positionnement : le premier transforme un prompt utilisateur court en une description riche et adaptée au modèle (via un entraînement SFT+RL en deux étapes fondé sur un LLM open source), le second permet à l’utilisateur d’injecter un style via une image de référence — avec mélange pondéré multi-style et contrôle continu de l’intensité.
Un commentaire sur HN le formule bien : « J’apprécie la philosophie de ‘garder la largeur de la variété’ — essayer de couvrir plusieurs styles plutôt que de ‘dresser’ le modèle sur une douzaine de présélections. » Des voix sceptiques s’élèvent aussi, estimant que face aux modèles agentiques et compositionnels comme Nano Banana 2 ou Images 2.0, les modèles purement T2I risquent de « mener la guerre précédente ». La réponse du CTO de Krea : les workflows agentiques sont compatibles avec Krea 2, des modèles d’édition sont en préparation ; et surtout, la personnalisation open source (LoRA de marque, etc.) est irremplaçable par une API fermée.
Dernières observations
Le rapport technique de Krea 2 est un document d’ingénierie d’une honnêteté rare. Il ne survend pas la percée d’une technique isolée, mais expose comment une série de choix techniques pragmatiques opèrent à l’échelle de 12 milliards de paramètres. Des ablations architecturales à l’infrastructure d’entraînement distribué (Kubernetes + Kueue + Virtual Kubelet personnalisé pour l’élasticité de l’inférence), de l’entraînement 8-bit au diagnostic des pannes de liaison InfiniBand — ces détails constituent la véritable valeur de ce rapport.
L’auteur estime que le signal le plus important de Krea 2 n’est pas « l’open source rattrape encore une fois le propriétaire » — ce narratif a été trop souvent répété. Ce qui mérite vraiment l’attention est ceci : un laboratoire indépendant, construisant de zéro son infrastructure de données et son framework d’entraînement distribué, atteint avec 12 milliards de paramètres un niveau de qualité proche des modèles propriétaires les plus avancés. Cela signifie que les barrières concurrentielles dans le domaine de la génération d’images sont peut-être plus minces que beaucoup ne l’imaginent.
Naturellement, ce qui précède n’est que l’opinion personnelle de l’auteur fondée sur les informations publiques. Les détails techniques font foi selon le rapport officiel et la page de publication du modèle Krea.
Déclaration de l’auteur : cet article est fondé sur l’analyse du rapport technique public, des discussions communautaires et des données de benchmark. L’auteur n’a reçu ni rémunération ni instruction de la part de l’équipe Krea. Tous les jugements techniques sont des opinions personnelles ; les discussions et corrections fondées sur les faits sont les bienvenues.