Multi-Dimensional Featurizers Yield Fine-Grained Steering and Data Shaping in Robot Foundation Models

arXiv:2610.20767v1 公告类型：新

摘要：更好的特征发现能否通过内部干预和训练数据改善对机器人行为的控制？近期在视觉和语言模型中的工作揭示了多维特征，推动了块稀疏特征器（block-sparse featurizers，BSFs）的出现，其将每个特征表示在低维子空间中。我们研究恢复这种结构能否为引导视觉-语言-动作模型以及塑造其学习所依赖的数据提供可解释的接口。我们表明，BSFs 恢复了模型计算背后的若干多维任务相关特征（例如感知、语言、本体感受状态、回合阶段和控制变量）。我们通过细粒度引导对这些特征进行因果验证：对视觉感知、语义表示和空间定位的定向改变会在下游动作预测中产生可预测的变化。最后，我们使用基于特征的数据归因来定位特定行为（失败恢复）在训练数据集中出现的位置，识别出不到 $1.4\%$ 的训练 token，对其掩码足以移除目标行为。总体而言，我们的结果展示了将特征器与表示几何相匹配如何能够为理解和改变机器人行为提供更有效的工具。