2026 年 6 月 23 日,Krea 发布了一份 58 分钟阅读时长的技术报告,同时把 Krea 2 的权重放上了 Hugging Face。
没有预热,没有倒计时。一个 12B 参数的 MMDiT 模型,Artificial Analysis 文生图排行榜前十,独立实验室模型中排第二,与 Nano Banana 持平——关键是,可以本地跑。在 r/StableDiffusion 上,有人用”疯了”来形容社区反应。
这不是又一个刷榜然后消失在论文海洋里的研究项目。Krea 2 发布了两个变体:RAW(未蒸馏,供微调和 LoRA 训练)和 Turbo(引导蒸馏+时间步蒸馏,8 步出图)。ComfyUI、Ostiris、musubi tuner、fal、Hugging Face Diffusers 在发布当天就提供了支持。CTO Diego Rodriguez 在 HN 上写了一句:“我们在 mid-training 和 post-training 阶段各放出了一个 checkpoint,这在图像/多模态社区里很少见。”
笔者读完这份技术报告和 HN 上 35 条讨论之后,想从一个工程观察者的角度,梳理 Krea 2 在架构、训练策略和部署成本上做了什么选择,以及这些选择对开源图像生成生态意味着什么。
架构:在 LLM 的肩膀上搭积木
Krea 2 的架构决策有一条清晰的线索:但凡 LLM 社区验证过的组件,优先采用。
基础骨架是单流 MMDiT(Multi-Modal Diffusion Transformer),文本 token 和图像 token 共享同一套 attention 和 MLP 权重。团队也试过双流(文本和图像各自独立权重)和混合流(前 1/3 双流、后 2/3 单流),混合流略有优势,但出于简洁性选择了单流——这与 LLM 社区”能简单就不复杂”的品味一致。
几个关键组件的消融结果值得注意:
注意力机制:从多头注意力换成分组查询注意力(GQA),再加一层 sigmoid-gated attention。GQA 降低了计算开销,gated attention 没有显著提升性能,但让训练过程中的 loss 和梯度范数曲线更平滑——这在千卡级分布式训练中意味着更少的崩溃和更少的半夜 oncallsignal。
MLP:GeLU 换成 SwiGLU,4x 扩展比。这在 LLM 里已经是事实标准,Krea 2 的消融验证了它在扩散 Transformer 上同样有效。
时间步调制:这可能是最务实的决定。标准 MMDiT 为每个 Transformer block 配备一个 MLP 来生成 scale/shift/gate 因子,这些 MLP 可以占到总参数量的 20%–30%。Krea 2 的做法是直接把 per-block MLP 替换为 per-block 可学习偏置项——把省下来的参数留给 attention 和 MLP 层本身。笔者觉得这个取舍很体现工程判断力:为一个标量条件(时间步 t)投入 20%+ 的参数量,确实显得奢侈。
文本编码器:从 T5-XXL 作为基线起步,最终选定 Qwen3-VL。关键创新在于不只用 VLM 的最后一层特征——引入了一个浅层 attention 层,跨层聚合隐藏特征,让模型能动态选择粗粒度到细粒度的文本表征。团队指出,自回归 LLM 的最后一层特征是为 next-token prediction 优化的,不适合直接用于图像生成——这个洞察并不新(Unifusion 等论文已有讨论),但落地到生产模型里是另一回事。
其他组件:位置编码用 3D Axial RoPE,归一化用零中心 RMSNorm + QKNorm,自编码器先在 Qwen Image VAE 上做早期模型缩放、后迁移到 FLUX 2 VAE。
笔者的整体感受是:Krea 2 的架构没有引入激进的新设计。它的策略是筛选 LLM 社区已经验证过的改进,逐一在扩散 Transformer 上做消融,保留有效的、砍掉冗余的。这种”后发优势”式的架构选择,让团队能把更多精力投入到训练管线本身。
训练:把 LLM 的 playbook 搬进扩散模型
如果说架构层面的选择偏保守,训练管线则展示了更大的野心。
数据策略:Krea 2 的预训练数据集规模达到数十亿级别,且明确不使用任何 AI 生成的图像。团队认为即使少量合成图像也会在模型的输出分布中引入偏置——合成图像更容易被学习,这实际上给模型质量设了一个隐性上限。数据过滤也相当克制:只筛掉重复样本、VLM 无法准确描述的样本、会诱导不良偏置/伪影的样本,以及低分辨率下难以可靠建模的高复杂度图像。这与”质量分数越高越好”的主流做法形成对比——一个模糊的图像如果是刻意的艺术选择,就不该被过滤。
多阶段管线:预训练(256px→512px→1024px 渐进分辨率)→ 中训练(Midtraining,桥接通用分布和高质 SFT 分布)→ 监督微调(SFT,小规模手工精选高美感图像)→ 偏好优化(PO,团队自研的 STPO,在 DPO 基础上引入辅助损失抑制策略发散)→ 强化学习(RL,GRPO 式多奖励模型)→ 时间步蒸馏(TDM,Trajectory Distribution Matching)。
这个管线结构几乎是对 LLM 训练范式的直接移植。中训练阶段尤其值得注意——通常在 LLM 里用于在 SFT 前预热模型分布,Krea 2 将其引入扩散模型,用于装备高保真生成、文本渲染等下游能力。CTO 在 HN 上说”我们在 mid-training 阶段放出了 checkpoint”,这在图像模型社区确实少见,更像是 LLM 社区的发布习惯。
RL 阶段的细节:Krea 2 使用了四个奖励模型——通用美感模型、提示遵循奖励、文本渲染奖励、结构伪影检测奖励。团队观察到仅优化美感和提示遵循会导致”奖励黑客”:模型生成乍看合理但包含结构缺陷(多余手指、畸形肢体、扭曲文字)的图像。因此专门训练了一个伪影检测模型作为对抗信号。此外,提示词池的筛选被建模为资源分配问题——训练算力应该更多分配给模型”还能学到东西”的样本,而非已经饱和或噪声过大的样本。
优化器选择:主力是 AdamW。团队也探索了 Muon,发现它在初始步骤中收敛更快,但在较长训练周期中不如 AdamW;加入 Nesterov 动量后排除了首尾线性层后 Muon 反超 AdamW,但由于时间限制未能在最终预训练中使用。8-bit 训练在 256px 和 512px 阶段带来了 15–20% 的速度提升,1024px 起切换回 bf16。
推理与部署:12B 的”可部署”边界
Krea 2 Turbo 在 8 步采样下即可出图,这让它站在了一个微妙的位置上。HN 上的 GenAI Showdown 测试显示,在可本地托管的模型中,Krea 2 得分最高,仅次于需要数分钟出图的 Ideogram 4。速度差距是秒级 vs 分钟级。
12B 参数量意味着单张 24GB 显存的消费级 GPU(如 RTX 4090)可以跑起来,48GB(A6000)则更从容。考虑到自编码器和文本编码器的额外开销,实际推理占用可能进一步上升,但仍在可接受范围内。Day-0 的 ComfyUI 支持和 LoRA 训练工具链意味着社区可以立刻开始定制——在 RAW checkpoint 上训练 LoRA,然后挂到 Turbo 上推理,这是团队推荐的 workflow。
值得注意的是,Krea 团队没有止步于常规的引导蒸馏,而是同时应用了引导蒸馏和时间步蒸馏(通过 TDM),在保持多步采样灵活性的前提下将推理步数压缩到 8 步。报告提到他们考虑过 DMD、DMD2、Decoupled DMD、piFlow、APT 等多种蒸馏方法,最终选择 TDM 的理由很简单:超参数少、调参友好、支持灵活的多步蒸馏。
生态位置:开源图像生成的 2026 版图
把 Krea 2 放进 2026 年年中的开源图像生成生态里看,它的位置会更清晰。
Flux.1 系列(Black Forest Labs)仍是开源社区的重量级玩家,12B 参数,在写实摄影风格上尤其强势。Stable Diffusion 3.5 Large(8B)和 SD3 Medium 在中低端硬件上部署友好。Ideogram 4 在图像质量基准上可能略高,但推理速度慢得多。Qwen-Image 和 ZiT 也在快速迭代。
Krea 2 的差异点不在绝对质量上——Artificial Analysis 的数据显示它处于第一梯队而非顶部——而在于”审美多样性”的定位。团队明确把目标设定为”创意探索的基础模型”而非”单一打磨好的默认美学”。Prompt expander 和 Style Reference 系统是这种定位的具体体现:前者将简短的用户提示映射为模型友好的丰富描述(通过基于开源 LLM 的 SFT+RL 两阶段训练),后者允许用户用参考图像注入风格——支持多风格加权混合和连续强度控制。
HN 上有一条评论说得好:“我欣赏’保持流形宽度’的思路——试图让模型覆盖多种风格,而不是把它’调教’成十几个风格预设。“同时也有质疑的声音,认为在 Nano Banana 2、Images 2.0 等 agentic 组合式模型面前,纯 T2I 模型可能是在”打上一场战争”。Krea CTO 的回应是:agentic workflow 与 Krea 2 是兼容的,编辑模型也在路上;而且开源的可定制性(品牌 LoRA 等)是闭源 API 无法替代的。
最后的观察
Krea 2 的技术报告是一份难得坦诚的工程文档。它没有过度宣传某个单项技术的突破,而是展示了一系列务实的技术选择如何在 12B 参数规模上运作。从架构消融到分布式训练基础设施(Kubernetes + Kueue + 自定义 Virtual Kubelet 做推理弹性扩缩),从 8-bit 训练到 InfiniBand 链路故障的诊断经验——这些细节构成了这份报告真正的价值。
笔者认为,Krea 2 最重要的信号不是”开源又追上闭源了”——这个叙事已经重复了太多次。真正值得关注的是:一个独立实验室,从零搭建数据基础设施和分布式训练框架,用 12B 参数达到了接近最前沿闭源模型的质量水平。这意味着图像生成领域的竞争壁垒可能比很多人想象的要薄。
当然,以上只是笔者基于公开信息的一家之言。技术细节以 Krea 官方报告和模型发布页为准。
笔者声明:本文基于公开技术报告、社区讨论和基准数据的分析,未获得 Krea 团队的报酬或指示。所有技术判断均属个人观点,欢迎基于事实的讨论和纠正。