求索札记

Last update

世界模型

概念框架与综述

论文发表状态总结评论
Agentic World Modeling: Foundations, Capabilities, Laws, and BeyondarXiv 2026.04✅ 已读L1 Predictor / L2 Simulator / L3 Evolver × physical/digital/social/scientific laws 统一 world model 概念,重点提醒不要把视觉逼真等同于可决策模拟;后续读视频、机器人、agent、科学路线都可用它定位能力边界。对话记录
World Action Models: The Next Frontier in Embodied AIarXiv 2026.05⏳ 待读系统定义 WAM:不只预测 action,而是联合建模未来状态和动作;把方法分成 cascaded 与 joint WAM,并整理数据、训练目标、action decoding 和评测维度,适合作为具身 world model 路线图。

Web / GUI / Tool-use World Model

论文发表状态总结评论
Web Agents with World ModelsICLR 2025✅ 已读入口论文:给定当前网页状态和候选动作,先预测动作后果再决策;transition-focused observation abstraction 用关键状态变化代替完整 HTML,解决网页输入长、重复元素多的问题。对话记录
WebDreamerarXiv 2024.11 / 2025.04✅ 已读把 LLM 用作 web agent 的 world model 和 value function,在真实执行前模拟候选动作后果;重点处理真实网页不可逆操作下 tree search 难 backtrack、成本高的问题。
ViMo: A Generative Visual GUI World Model for App AgentsICLR 2026✅ 已读直接预测 action 后的未来 App GUI 图像,而不是只输出文字描述;用 Symbolic Text Representation 把 graphics prediction 和 text prediction 拆开,解决 GUI 图片中文字难生成的问题。对话记录GUI Agent 否定,没意义,不能给决策提供更多有效信息
Agent World Model: Infinity Synthetic Environments for Agentic Reinforcement LearningarXiv 2026.02⏳ 待读从预测器扩展到训练环境生成器:自动生成 code-driven、database-backed、状态一致的 tool-use environments,用于多轮 tool-use agent 的 RL 训练和可验证 reward 构造。

经典 Model-Based RL

论文发表状态总结评论
Mastering Diverse Domains through World ModelsarXiv 2023 / Nature 2025⏳ 待读DreamerV3 用 RSSM 学 latent dynamics,再在 imagination rollout 中训练 actor-critic;symlog、twohot、free bits、return normalization 等稳健化让同一配置覆盖 150+ 任务,是理解“世界模型服务策略学习”的 RL 底座。

生成式交互环境与可玩世界

论文发表状态总结评论
Genie: Generative Interactive EnvironmentsICML 2024✅ 已读从无动作标注互联网视频中学习离散 latent action、视频 tokenizer 和 AR dynamics,把单张图/草图/照片变成可逐帧控制的环境;核心价值是证明 video-only 数据也能产生交互接口,但长时一致性和速度仍弱。
Cosmos World Foundation Model Platform for Physical AIarXiv 2025.01✅ 已读NVIDIA 的物理 AI 世界基础模型平台,包含大规模视频清洗、pretrained WFM、post-training 到 camera control/robot manipulation/autonomous driving、video tokenizers;价值在工程生态和开放权重,局限是更像平台报告而非单一机制论文。

实时与长时程交互视频生成

论文发表状态总结评论
SANA-WM: Efficient Minute-Scale World Modeling with Hybrid Linear Diffusion TransformerarXiv 2026.05✅ 已读2.6B 开源 camera-controlled 世界模型,面向一分钟 720p rollout;Hybrid Linear Attention、双分支 6-DoF camera control、两阶段 refiner 和 pose annotation pipeline 共同解决长时场景保持与效率问题。
Causal Forcing++: Scalable Few-Step Autoregressive Diffusion Distillation for Real-Time Interactive Video GenerationarXiv 2026.05✅ 已读把 AR diffusion distillation 推到 frame-wise 1-2 step,关键是用 causal consistency distillation 初始化 few-step AR student,避免完整 PF-ODE 轨迹存储;面向实时交互视频,但主要解决低延迟生成而非完整决策闭环。
RAVEN: Real-time Autoregressive Video Extrapolation with Consistency-model GRPOarXiv 2026.05✅ 已读针对 AR 视频扩散训练和推理历史分布不一致的问题,RAVEN 把 self rollout repack 成 clean history + noisy state 的交错序列,并用 CM-GRPO 在 consistency transition kernel 上做在线优化;适合作为实时长 rollout distillation/post-training 路线参考。

具身行动与 World Action Models

论文发表状态总结评论
World Action Models are Zero-shot PoliciesarXiv 2026.02⏳ 待读DreamZero 把 14B 视频扩散 backbone 变成 joint video-action model:先预测视觉未来再对齐机器人动作,真实机器人上提升 unseen motion/task 泛化,并通过 AR + KV cache + 异步执行做到约 7Hz;瓶颈仍是视频预测错误和硬件成本。
The DAWN of World-Action Interactive ModelsarXiv 2026.05⏳ 待读DAWN 把自动驾驶中的世界预测和动作生成做成递归耦合:world hypothesis 条件 action denoising,denoised action 再反馈更新 world prediction;相比简单 predict-then-plan,更强调 world/action 在推理时共同演化。

Object-Centric 与 Latent Dynamics

论文发表状态总结评论
Latent Particle World ModelsICLR 2026 Oral⏳ 待读LPWM 自监督发现 keypoints/boxes/masks/particles,用 per-particle latent actions 建模多物体随机动态,支持 action、language、image goal 和 multi-view conditioning;强项是交互结构和决策可用性,短板是依赖小相机运动和重复场景。

评测与诊断

论文发表状态总结评论
Omni-WorldBench: Towards a Comprehensive Interaction-Centric Evaluation for World ModelsarXiv 2026.03⏳ 待读用三层 interaction hierarchy 和 Omni-Metric/AgenticScore 评测动作如何因果改变 4D 世界状态,指出当前模型画质强但 action-conditioned evolution、causal consistency、camera-object joint control 仍弱。
Quantitative Video World Model Evaluation for Geometric-ConsistencyarXiv 2026.05⏳ 待读PDI-Bench 用分割、点跟踪、单目 3D 重建和投影几何残差量化生成视频的 scale-depth alignment、3D motion consistency、structural rigidity;补足常规感知指标看不出的几何失败。