AI 搜索

带引用 · 可溯源

先用站内已采集内容作答；站内不足时联网检索，每条结论都给出来源链接

AI 答案

资料有限基于 1 条来源 · 引用可点击溯源

现有资料不足以回答该问题的技术细节：资料1只给出了 PRISM 的宏观思路，没有给出逐决策监督损失函数的具体形式，也没有与常规 SFT 损失做公式级对比。以下是资料中能确认的部分：

监督粒度：PRISM 通过零初始化低秩分支，让教师模型提供逐决策（per-decision）监督，而不是只对最终输出做序列级拟合1。
监督信号来源：监督来自同一查询下另一个已验证可行的图，即"特权兄弟"（privileged sibling）信息，属于训练期可用的额外特权信息1。
与 SFT 的差异（资料给出的定性说法）：资料明确指出该方法旨在避免 SFT 偏向语料中的高频拓扑，即 SFT 会把语料分布中的高频模式当作学习目标，而 PRISM 希望学生模型学到查询级偏好，即针对具体查询选择合适拓扑，而不是复现语料统计上的常见拓扑1。
效果：在六个基准上优于现有拓扑设计基线1。

关于损失函数的具体设计（例如是否采用逐 token 交叉熵加权、KL 正则、偏好排序损失、教师分支与学生分支的耦合方式、低秩分支的初始化与训练策略等），资料1的摘要未涉及，无法据此推断。

继续追问

1 条

AI 答案正在检索与综合…

1 条 · 点击可看原文全文与中文译文

PRISM 提出一种面向 LLM 多智能体系统的拓扑生成后训练方法：利用同一查询下另一个已验证可行图作为"特权兄弟"信息，通过零初始化低秩分支让教师模型提供逐决策监督，使学生模型学到查询级偏好，避免 SFT 偏向语料高频拓扑。在六个基准上优于现有拓扑设计基线。

Agent·arXiv cs.CL·5 天前