Causal Analysis of Robot Foundation Models Enables Efficiency Gains
研究对三个前沿视觉-语言-动作(VLA)模型做机制性因果分析,发现动作专家仅通过中后段少量交叉注意力层(动作条件接口)接收关键信息,且物体选择与空间信息分层存储。据此将 MolmoBot 的条件层从 36 层减至 3 层,推理 FLOPs 降 33%,3000 次评测成功率基本持平,并已在真机部署验证。
先用站内已采集内容作答;站内不足时联网检索,每条结论都给出来源链接
10 条 · 点击可看原文全文与中文译文
研究对三个前沿视觉-语言-动作(VLA)模型做机制性因果分析,发现动作专家仅通过中后段少量交叉注意力层(动作条件接口)接收关键信息,且物体选择与空间信息分层存储。据此将 MolmoBot 的条件层从 36 层减至 3 层,推理 FLOPs 降 33%,3000 次评测成功率基本持平,并已在真机部署验证。
AbridgeKV 训练模型把已完成的长推理文本块压缩进少量可学习 pause token 的 KV 条目,从而释放原始缓存,后续 token 改为关注这些 pause token。在 AIME 等 446 道竞赛题、32K 生成下,仅保留四分之一缓存即可匹配全 KV 模型精度,vLLM 中单序列缓存缩小 3.5 倍、H100 完成速度提升 3.2 倍。
3DCodeVerse 是一个面向编码智能体的3D内容生成生态,包含200万条可执行3D代码数据集、多智能体DAG生成与验证框架,以及3D编码实践指南。它通过执行检查、空间测量和视觉反馈自动评估修正程序,微调后开源模型3D编码能力显著提升,其框架在人类评测中对Claude Design取得90%胜率。
Evo-DexBench 是面向灵巧操作策略泛化能力的新基准,基于 Core-Gen 原则控制源任务相关性与目标任务样本量,含 6 类功能族 30 个任务、1248 条多模态演示。实验显示最优方法平均成功率仅 38.5%,揭示现有方法难以迁移功能交互知识,为评估跨相关任务泛化提供标准化平台。
GeoState 提出视角解耦的几何表示,将场景状态演化与相机观测分离:场景分词器把多视角几何基础模型特征聚合为解耦场景状态,几何解码器按相机射线查询,自回归世界模型预测未来状态并单独建模相机运动。在 Waymo 上超越既有 3D 世界模型,支持跨视角一致查询并零样本泛化到 KITTI 和 nuScenes。
Google Research 提出 MELON,一种无需相机位姿估计、预训练或复杂训练流程的 NeRF 方法,可从 4-6 张无位姿图像中同时推断物体中心相机位姿并重建 3D 物体,解决了位姿与重建互为前提的"鸡生蛋"难题及伪对称导致的局部最优问题。
安全研究者披露 OpenBSD 内核中一个存在 37 年的漏洞,可被利用实现本地提权。该漏洞源于早期代码逻辑缺陷,影响长期被视为高安全性系统的 OpenBSD,提醒人们长期未审计的遗留代码仍是重大风险。
Spark-0 是空间对齐的视觉-触觉-语言-动作模型,预训练时用触觉手套接触图与 3D 几何教师监督视觉 token,推理时可去掉;同时发布 1000 小时 HumanTouch 数据集与 SparkArena 基准。保留触觉监督使纯视觉成功率从 52.5% 升至 71.7%,说明触觉可作为可扩展的预训练监督信号。
T2-Z 为机器人世界模型引入可学习的环境隐变量,在测试时仅凭少量交互轨迹优化该隐变量,使模型适应未见过的摩擦、质量等环境因素。在 7 个仿真设置和 4 个真实任务中,物体预测误差从 15.20 降至 7.00,动作成功率从 33.73% 提升至 72.96%。
SUPRA-TEX 提出解耦可见材质估计、表面对齐与观测引导补全的单图3D生成方法,用MLLM编辑模型预测PBR贴图并投影为原生观测潜变量,再由交错流Transformer补全未观测区域,实现所见即所得的高保真纹理,仅用公开数据即达SOTA。
现有资料不足以回答该问题。 可确认的部分:
结论: 无法基于给定资料给出“如何设计反馈机制以避免抑制关键证据”的具体方案,包括架构模式、聚合策略、证据保留约束等均无资料支撑。建议补充 3 的完整正文(尤其是其中关于智能体反馈/验证环节的描述),以及多智能体协作、辩论式反馈、证据聚合相关的资料后再作答。