Velox用空间记忆加速视频世界模型

视频世界模型将动作与相机运动转化为长时间的可视化 rollout，使视频成为交互式仿真的自然接口。此类交互需要响应迅速的生成，而连贯的 rollout 必须保留对已生成内容的视觉记忆。分块视频扩散模型通常将这种上下文保存在不断增长的 KV cache 中，因此后续分块会逐渐变慢。为解决这一瓶颈，我们提出 Velox，一种无需训练的注意力路由器，利用流式几何中的视锥板（frustum slab）对应关系进行区域级上下文选择。Velox 将历史块表示为带深度区间的相机视锥板，并通过近期优先的多重 warp 获取当前块的深度。对于覆盖良好的区域，视锥板重叠会软性调制每一层由模型导出的块重要性。未覆盖区域则保留模型导出的路由，不引入几何偏置。固定的 token 块粒度与 FlashAttention 风格的平铺执行相匹配，并减少了随 rollout 长度增长的注意力项。视锥板构建与去噪在同一 H200 上异步运行。在第 48 个分块处，Velox 将注意力加速 4.36 倍，将去噪加速 2.43 倍。在完整的 158 例 WBench 导航划分上，其与稠密 LingBot-Fast-Cam 的平均分差保持在 0.15 个无 API 平均分以内。更多详情请参见我们的项目页面 https://velox-world.com/velox/。