世界模型
概念框架与综述
| 论文 | 发表 | 状态 | 总结 | 评论 |
|---|---|---|---|---|
| Agentic World Modeling: Foundations, Capabilities, Laws, and Beyond | arXiv 2026.04 | ✅ 已读 | 用 L1 Predictor / L2 Simulator / L3 Evolver × physical/digital/social/scientific laws 统一 world model 概念,重点提醒不要把视觉逼真等同于可决策模拟;后续读视频、机器人、agent、科学路线都可用它定位能力边界。对话记录 | |
| World Action Models: The Next Frontier in Embodied AI | arXiv 2026.05 | ⏳ 待读 | 系统定义 WAM:不只预测 action,而是联合建模未来状态和动作;把方法分成 cascaded 与 joint WAM,并整理数据、训练目标、action decoding 和评测维度,适合作为具身 world model 路线图。 |
Web / GUI / Tool-use World Model
| 论文 | 发表 | 状态 | 总结 | 评论 |
|---|---|---|---|---|
| Web Agents with World Models | ICLR 2025 | ✅ 已读 | 入口论文:给定当前网页状态和候选动作,先预测动作后果再决策;transition-focused observation abstraction 用关键状态变化代替完整 HTML,解决网页输入长、重复元素多的问题。对话记录 | |
| WebDreamer | arXiv 2024.11 / 2025.04 | ✅ 已读 | 把 LLM 用作 web agent 的 world model 和 value function,在真实执行前模拟候选动作后果;重点处理真实网页不可逆操作下 tree search 难 backtrack、成本高的问题。 | |
| ViMo: A Generative Visual GUI World Model for App Agents | ICLR 2026 | ✅ 已读 | 直接预测 action 后的未来 App GUI 图像,而不是只输出文字描述;用 Symbolic Text Representation 把 graphics prediction 和 text prediction 拆开,解决 GUI 图片中文字难生成的问题。对话记录 | GUI Agent 否定,没意义,不能给决策提供更多有效信息 |
| Agent World Model: Infinity Synthetic Environments for Agentic Reinforcement Learning | arXiv 2026.02 | ⏳ 待读 | 从预测器扩展到训练环境生成器:自动生成 code-driven、database-backed、状态一致的 tool-use environments,用于多轮 tool-use agent 的 RL 训练和可验证 reward 构造。 |
经典 Model-Based RL
| 论文 | 发表 | 状态 | 总结 | 评论 |
|---|---|---|---|---|
| Mastering Diverse Domains through World Models | arXiv 2023 / Nature 2025 | ⏳ 待读 | DreamerV3 用 RSSM 学 latent dynamics,再在 imagination rollout 中训练 actor-critic;symlog、twohot、free bits、return normalization 等稳健化让同一配置覆盖 150+ 任务,是理解“世界模型服务策略学习”的 RL 底座。 |
生成式交互环境与可玩世界
| 论文 | 发表 | 状态 | 总结 | 评论 |
|---|---|---|---|---|
| Genie: Generative Interactive Environments | ICML 2024 | ✅ 已读 | 从无动作标注互联网视频中学习离散 latent action、视频 tokenizer 和 AR dynamics,把单张图/草图/照片变成可逐帧控制的环境;核心价值是证明 video-only 数据也能产生交互接口,但长时一致性和速度仍弱。 | |
| Cosmos World Foundation Model Platform for Physical AI | arXiv 2025.01 | ✅ 已读 | NVIDIA 的物理 AI 世界基础模型平台,包含大规模视频清洗、pretrained WFM、post-training 到 camera control/robot manipulation/autonomous driving、video tokenizers;价值在工程生态和开放权重,局限是更像平台报告而非单一机制论文。 |
实时与长时程交互视频生成
| 论文 | 发表 | 状态 | 总结 | 评论 |
|---|---|---|---|---|
| SANA-WM: Efficient Minute-Scale World Modeling with Hybrid Linear Diffusion Transformer | arXiv 2026.05 | ✅ 已读 | 2.6B 开源 camera-controlled 世界模型,面向一分钟 720p rollout;Hybrid Linear Attention、双分支 6-DoF camera control、两阶段 refiner 和 pose annotation pipeline 共同解决长时场景保持与效率问题。 | |
| Causal Forcing++: Scalable Few-Step Autoregressive Diffusion Distillation for Real-Time Interactive Video Generation | arXiv 2026.05 | ✅ 已读 | 把 AR diffusion distillation 推到 frame-wise 1-2 step,关键是用 causal consistency distillation 初始化 few-step AR student,避免完整 PF-ODE 轨迹存储;面向实时交互视频,但主要解决低延迟生成而非完整决策闭环。 | |
| RAVEN: Real-time Autoregressive Video Extrapolation with Consistency-model GRPO | arXiv 2026.05 | ✅ 已读 | 针对 AR 视频扩散训练和推理历史分布不一致的问题,RAVEN 把 self rollout repack 成 clean history + noisy state 的交错序列,并用 CM-GRPO 在 consistency transition kernel 上做在线优化;适合作为实时长 rollout distillation/post-training 路线参考。 |
具身行动与 World Action Models
| 论文 | 发表 | 状态 | 总结 | 评论 |
|---|---|---|---|---|
| World Action Models are Zero-shot Policies | arXiv 2026.02 | ⏳ 待读 | DreamZero 把 14B 视频扩散 backbone 变成 joint video-action model:先预测视觉未来再对齐机器人动作,真实机器人上提升 unseen motion/task 泛化,并通过 AR + KV cache + 异步执行做到约 7Hz;瓶颈仍是视频预测错误和硬件成本。 | |
| The DAWN of World-Action Interactive Models | arXiv 2026.05 | ⏳ 待读 | DAWN 把自动驾驶中的世界预测和动作生成做成递归耦合:world hypothesis 条件 action denoising,denoised action 再反馈更新 world prediction;相比简单 predict-then-plan,更强调 world/action 在推理时共同演化。 |
Object-Centric 与 Latent Dynamics
| 论文 | 发表 | 状态 | 总结 | 评论 |
|---|---|---|---|---|
| Latent Particle World Models | ICLR 2026 Oral | ⏳ 待读 | LPWM 自监督发现 keypoints/boxes/masks/particles,用 per-particle latent actions 建模多物体随机动态,支持 action、language、image goal 和 multi-view conditioning;强项是交互结构和决策可用性,短板是依赖小相机运动和重复场景。 |
评测与诊断
| 论文 | 发表 | 状态 | 总结 | 评论 |
|---|---|---|---|---|
| Omni-WorldBench: Towards a Comprehensive Interaction-Centric Evaluation for World Models | arXiv 2026.03 | ⏳ 待读 | 用三层 interaction hierarchy 和 Omni-Metric/AgenticScore 评测动作如何因果改变 4D 世界状态,指出当前模型画质强但 action-conditioned evolution、causal consistency、camera-object joint control 仍弱。 | |
| Quantitative Video World Model Evaluation for Geometric-Consistency | arXiv 2026.05 | ⏳ 待读 | PDI-Bench 用分割、点跟踪、单目 3D 重建和投影几何残差量化生成视频的 scale-depth alignment、3D motion consistency、structural rigidity;补足常规感知指标看不出的几何失败。 |