求索札记

Last update

统一理解生成

入门主线:从交织理解到统一生成

论文发表状态总结评论
Flamingo: a Visual Language Model for Few-Shot LearningNeurIPS 2022✅ 已读用 Perceiver Resampler 和 gated cross-attention 把冻结视觉编码器接入冻结 LM,使模型能读取任意交织的图像/视频/文本 prompt 并做 few-shot VLM;它奠定了“交织上下文理解”的问题形态,但主要输出文本,尚不是原生图像生成模型。
Making LLaMA SEE and Draw with SEED TokenizerarXiv 2023.10⏳ 待读提出 SEED visual tokenizer,要求视觉 token 同时具备 1D causal dependency 和高层语义,使 LLaMA 可用 next-token prediction 统一图像理解与生成;关键价值是解释视觉 token 设计为何决定统一自回归路线的上限,局限是仍依赖 frozen unCLIP-SD 解码。
Chameleon: Mixed-Modal Early-Fusion Foundation ModelsarXiv 2024.05✅ 已读把文本、图像和代码都离散化成同一 Transformer 的 token,端到端训练 early-fusion mixed-modal LM,可理解和生成任意图文序列;它证明 native mixed-modal 的可行性,但视觉质量、OCR 和高保真细节受离散 tokenizer 限制。
Show-o: One Single Transformer to Unify Multimodal Understanding and GenerationICLR 2025✅ 已读在同一 Transformer 内把文本 next-token prediction 与图像 mask-token/discrete diffusion 结合,并用 omni-attention 让文本 causal、图像 full attention;它代表 AR+diffusion hybrid 路线,优势是小模型可行,短板是离散图像 token 的理解能力需要 CLIP/MAGVIT 连续表征补强。
Janus-Pro: Unified Multimodal Understanding and Generation with Data and Model ScalingarXiv 2025.01✅ 已读延续 Janus 的 decoupled visual encoding:理解用 SigLIP 语义特征,生成用 VQ token,共享 autoregressive Transformer;它说明“统一”不必强行共享视觉编码器,训练策略和合成美学数据能显著改善短 prompt 生成稳定性。
Orthus: Autoregressive Interleaved Image-Text Generation with Modality-Specific HeadsICML 2025⏳ 待读在共享 Transformer 后接 text LM head 和 image diffusion head,用连续图像特征减少 VQ 信息损失,并给出从 Chameleon-7B 低成本改造 Orthus-base 的策略;它适合学术组做 post-training 和 interleaved generation 改造,但长程一致性评测仍偏 qualitative。
Emerging Properties in Unified Multimodal PretrainingarXiv 2025.05✅ 已读用 decoder-only MoT 架构和 text/image/video/web 交织数据训练开放统一模型,展示理解、生成、编辑、智能编辑能力随 token scale 分阶段涌现;它是大规模统一预训练的重要参照,但训练规模和数据工程门槛很高。
InternVL-U: Democratizing Unified Multimodal Models for Understanding, Reasoning, Generation and EditingarXiv 2026.03⏳ 待读从 InternVL3.5-2B 理解模型出发,接 1.7B MMDiT/Flow visual generation head,并用 CoT 合成数据桥接语义推理和视觉执行;它把统一能力压到 4B 级别,是做中文/领域数据、adapter 和 post-training ablation 的现实 baseline。

延伸补读:原 topic 已有资料

论文发表状态总结评论
Emu3: Next-Token Prediction is All You NeedarXiv 2024.09⏳ 待读将图像、文本、视频离散化后统一为 next-token prediction,是最纯粹的 GPT 式多模态自回归路线;适合和 Show-o、Orthus 对比视觉表示与生成质量之间的取舍。
Janus: Decoupling Visual Encoding for Unified Multimodal Understanding and GenerationarXiv 2024.10⏳ 待读提出理解/生成视觉编码解耦,指出一个视觉编码器同时服务语义理解和图像生成会产生冲突;它是 Janus-Pro、BAGEL、InternVL-U 等后续解耦路线的思想源头。
DuoGen: Towards General Purpose Interleaved Multimodal GenerationarXiv 2026.02⏳ 待读聚焦通用交织多模态生成,适合补充阅读长程图文输出、故事/教程式生成和跨段落一致性问题;可与 Orthus 的 storybook generation 对照。
Wan-Weaver: Interleaved Multi-modal Generation via Decoupled TrainingarXiv 2026.03⏳ 待读关注通过解耦训练实现交织多模态生成,是“统一接口但训练路径分工”的延伸路线;适合作为 InternVL-U 和 Orthus 之后的 2026 前沿补读。