PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language Models
PRISM 框架研究工具调用语言模型中激活干预的可迁移性,发现利用量化 NF4 标签和跨语言迁移可稳定估计安全干预方向,无需目标语言微调即可将 Llama-3.1-8B 的不安全违规降低 21.95 个百分点,并可迁移至 70B 模型。
先用站内已采集内容作答;站内不足时联网检索,每条结论都给出来源链接
3 条 · 点击可看原文全文与中文译文
PRISM 框架研究工具调用语言模型中激活干预的可迁移性,发现利用量化 NF4 标签和跨语言迁移可稳定估计安全干预方向,无需目标语言微调即可将 Llama-3.1-8B 的不安全违规降低 21.95 个百分点,并可迁移至 70B 模型。
PRISM 提出一种面向 LLM 多智能体系统的拓扑生成后训练方法:利用同一查询下另一个已验证可行图作为"特权兄弟"信息,通过零初始化低秩分支让教师模型提供逐决策监督,使学生模型学到查询级偏好,避免 SFT 偏向语料高频拓扑。在六个基准上优于现有拓扑设计基线。
ReviewPilot 是一个面向系统综述 PRISMA 流程的多智能体系统,通过对话定制筛选标准与抽取模式,并保留项目记忆,实现论文筛选与证据抽取的自动化。每条筛选决策附理由、每个抽取值附来源,在流行病学专家评审中优于单提示 LLM 与 AgentSLR,筛选宏 F1 达 0.776、抽取 F1 达 0.788,值得关注其可追溯性与跨领域迁移潜力。
现有资料只能部分回答:资料2确认了「特权兄弟」监督的构造思路,但没有给出与普通蒸馏的逐项对比,因此两者的区别只能基于资料2的描述做有限推断。 1. 「特权兄弟」是什么 PRISM 是一种面向 LLM 多智能体系统的拓扑生成后训练方法,其核心是:对同一查询,取另一个已验证可行的图作为「特权兄弟」信息2。也就是说,监督信号来自同一查询下一条已被验证可用的解,而不是通用语料中的标准答案。 2. 监督如何注入
3. 与普通蒸馏的区别(仅据资料可确认的部分)
4. 效果 在六个基准上优于现有拓扑设计基线2。 注意:资料中另有两篇同名/近名工作——1 研究工具调用模型激活干预的可迁移性,3 是系统综述筛选系统(PRISMA 流程),均与「特权兄弟」监督无关,不应混淆。 资料不足的部分:普通蒸馏的具体形式(logit 蒸馏 / 序列蒸馏)、损失函数形式、教师与学生是否同源、特权兄弟的构造与筛选流程细节,现有资料均未给出,无法回答。