AgentarXiv cs.AI4 天前
StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning
StepSafe 提出 ASPO 训练框架，将智能体安全护栏从轨迹级事后评估转为步级实时干预，通过前缀阶段对齐与自适应反馈自蒸馏，让模型判断风险何时累积到足以介入。在五个智能体安全基准上，4B 模型取得开源护栏最优的 Youden's J 53.0，兼顾安全与效用。
每日自动追踪全球权威信源，模型生成中文摘要与有效期判断，人工抽检把关。 不追热点，只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向，每个领域独立成脉
共 1 条符合条件
StepSafe 提出 ASPO 训练框架，将智能体安全护栏从轨迹级事后评估转为步级实时干预，通过前缀阶段对齐与自适应反馈自蒸馏，让模型判断风险何时累积到足以介入。在五个智能体安全基准上，4B 模型取得开源护栏最优的 Youden's J 53.0，兼顾安全与效用。