| Flamingo: a Visual Language Model for Few-Shot Learning | NeurIPS 2022 | ✅ 已读 | 用 Perceiver Resampler 和 gated cross-attention 把冻结视觉编码器接入冻结 LM,使模型能读取任意交织的图像/视频/文本 prompt 并做 few-shot VLM;它奠定了“交织上下文理解”的问题形态,但主要输出文本,尚不是原生图像生成模型。 | |
| Making LLaMA SEE and Draw with SEED Tokenizer | arXiv 2023.10 | ⏳ 待读 | 提出 SEED visual tokenizer,要求视觉 token 同时具备 1D causal dependency 和高层语义,使 LLaMA 可用 next-token prediction 统一图像理解与生成;关键价值是解释视觉 token 设计为何决定统一自回归路线的上限,局限是仍依赖 frozen unCLIP-SD 解码。 | |
| Chameleon: Mixed-Modal Early-Fusion Foundation Models | arXiv 2024.05 | ✅ 已读 | 把文本、图像和代码都离散化成同一 Transformer 的 token,端到端训练 early-fusion mixed-modal LM,可理解和生成任意图文序列;它证明 native mixed-modal 的可行性,但视觉质量、OCR 和高保真细节受离散 tokenizer 限制。 | |
| Show-o: One Single Transformer to Unify Multimodal Understanding and Generation | ICLR 2025 | ✅ 已读 | 在同一 Transformer 内把文本 next-token prediction 与图像 mask-token/discrete diffusion 结合,并用 omni-attention 让文本 causal、图像 full attention;它代表 AR+diffusion hybrid 路线,优势是小模型可行,短板是离散图像 token 的理解能力需要 CLIP/MAGVIT 连续表征补强。 | |
| Janus-Pro: Unified Multimodal Understanding and Generation with Data and Model Scaling | arXiv 2025.01 | ✅ 已读 | 延续 Janus 的 decoupled visual encoding:理解用 SigLIP 语义特征,生成用 VQ token,共享 autoregressive Transformer;它说明“统一”不必强行共享视觉编码器,训练策略和合成美学数据能显著改善短 prompt 生成稳定性。 | |
| Orthus: Autoregressive Interleaved Image-Text Generation with Modality-Specific Heads | ICML 2025 | ⏳ 待读 | 在共享 Transformer 后接 text LM head 和 image diffusion head,用连续图像特征减少 VQ 信息损失,并给出从 Chameleon-7B 低成本改造 Orthus-base 的策略;它适合学术组做 post-training 和 interleaved generation 改造,但长程一致性评测仍偏 qualitative。 | |
| Emerging Properties in Unified Multimodal Pretraining | arXiv 2025.05 | ✅ 已读 | 用 decoder-only MoT 架构和 text/image/video/web 交织数据训练开放统一模型,展示理解、生成、编辑、智能编辑能力随 token scale 分阶段涌现;它是大规模统一预训练的重要参照,但训练规模和数据工程门槛很高。 | |
| InternVL-U: Democratizing Unified Multimodal Models for Understanding, Reasoning, Generation and Editing | arXiv 2026.03 | ⏳ 待读 | 从 InternVL3.5-2B 理解模型出发,接 1.7B MMDiT/Flow visual generation head,并用 CoT 合成数据桥接语义推理和视觉执行;它把统一能力压到 4B 级别,是做中文/领域数据、adapter 和 post-training ablation 的现实 baseline。 | |