大模型Hugging Face Papers4 天前
多奖励强化学习的奖励相关token级信用分配
针对多奖励RL中GDPO将各奖励优势均匀铺满整条回复的问题,提出MRTPO:利用各验证器实际检查的信息,通过对比有无该验证器信息时策略的下一token分布,用逐token的Jensen-Shannon距离衡量相关性并重新分配优势,无需辅助模型或token级标注。在text-to-SQL、多约束指令跟随和工具调用上收敛更快、效果更好。
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
共 1 条符合条件
针对多奖励RL中GDPO将各奖励优势均匀铺满整条回复的问题,提出MRTPO:利用各验证器实际检查的信息,通过对比有无该验证器信息时策略的下一token分布,用逐token的Jensen-Shannon距离衡量相关性并重新分配优势,无需辅助模型或token级标注。在text-to-SQL、多约束指令跟随和工具调用上收敛更快、效果更好。