Learning to Read Out: Unembedding Dynamics in Language Model Pretraining
论文提出参数轨迹交叉编码方法,仅用检查点权重追踪语言模型预训练中反嵌入矩阵(读出层)的演化。发现Pythia预训练0.4-1.1%处读出层重组,而隐藏状态早已编码任务信息,说明行为时间线可能只反映读出层学会表达的时刻,而非模型真正习得能力的时刻。
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
共 63 条符合条件
论文提出参数轨迹交叉编码方法,仅用检查点权重追踪语言模型预训练中反嵌入矩阵(读出层)的演化。发现Pythia预训练0.4-1.1%处读出层重组,而隐藏状态早已编码任务信息,说明行为时间线可能只反映读出层学会表达的时刻,而非模型真正习得能力的时刻。
论文研究如何从语言模型输出中提取影响决策的关键子问题(cruxes),提出三种成本递增的策略:先验询问、单次推理后提取、多次采样对比提取。实验发现前两种廉价方法均不足以识别完整关键因素,高 stakes 决策仍需多次采样,但可用 reranker 将成本降至 judge 的约 1/86。
该论文提出用池化选择率标准差(pooled SD)统一衡量多选题的选项偏差,并将其分解为翻转率与位置偏斜两个无标签因子。在41个检查点和12个基准上,先验校正主要降低位置偏斜,顺序聚合主要降低翻转率,但聚合可能让模型稳定选错。建议同时报告两个因子以区分缓解手段的效果。
论文用他加禄语中缀(如 s-um-ulat)做对照实验,构建 MorphAustro-Tok 分词器把词根作为连续单元输出,并与 BPE 及打乱语素的对照比较。结果显示形态正确性本身在 33 次运行中未带来可检测增益,收益主要来自词根连续化而非语言学正确的切分,对类型学感知分词器的动机提出质疑。
CoTranslator 提出一种反向到正向的思维链翻译器,用于推理蒸馏。它先用已知答案生成廉价的反向 CoT,再学习将其翻译为接近经拒绝采样验证的正向 CoT 分布,从而在保持学生无答案推理一致性的同时降低教师调用成本。在六个数学基准上平均准确率最高提升 5.82 个百分点,4B 学生以约 36% 算力保留 95% 拒绝采样精度,并可零重训迁移到新数据集、教师和 STEM 任务。
该论文发布0.6B-14B开源权重模型,通过指令微调、偏好对齐与模型融合适配沃洛夫语(2300万使用者),在63项任务上表现良好,8B/14B模型可与更大商业系统竞争,已在客服试点并公开于Hugging Face。
PRISM 框架研究工具调用语言模型中激活干预的可迁移性,发现利用量化 NF4 标签和跨语言迁移可稳定估计安全干预方向,无需目标语言微调即可将 Llama-3.1-8B 的不安全违规降低 21.95 个百分点,并可迁移至 70B 模型。
APRiL 是一个面向中文社会意识的开源评测基准,含 2196 个评测实例、六大类别与两项任务:社会情境分析与社会意识回应。它用实例专属评分标准弥补现有基准覆盖面窄的问题,并在 12 个模型上发现「理解强、回应弱」的稳定差距,为中文社交场景下的模型评估提供系统资源。
Verdict-MQ 提出一种共享状态编码器:对同一份输入只编码一次,用结构化注意力掩码让状态表示与问题无关、问题之间互不影响、选项顺序无关,从而一次回答多个类型化决策问题。395M 模型在类型化决策基准上优于 421M 专用模型,但 RACE/BoolQ 上不及微调基线。
该研究在全双工语音语言模型中发现一个决定「何时抢话」的晚期残差流方向——initiative vector,无需训练或标注即可从模型自身对话中提取。缩放该方向可将说话占比从 6-12% 调至 42-61%,并能用一段短参考录音把特定说话人的轮流风格迁移到模型上,且迁移具有参考特异性。
研究发现,设备端少样本LoRA个性化虽能学会新指令,却会削弱助手对范围外输入的拒识能力(AUROC平均下降0.055–0.258),部分源于置信度打分器失准,也与嵌入边界收缩相关。改用马氏距离打分无需重训即可在5个数据集中的3个恢复大部分性能且不损精度,对端侧助手可靠性有直接价值。
CoTS 提出一种免训练的隐式推理框架,用最高两个候选 token 的概率竞争动态调节离散承诺与软探索的强度,替代传统阈值硬切换,无需额外前向计算,在六个推理基准上优于标准 CoT 及现有免训练隐式推理方法。
该论文研究用扩散语言模型生成排列的问题,对比三种参数化方式:硬分配、软分配和直接排序打分。在亚马逊推荐重排任务上,直接排序打分无需匈牙利算法或Sinkhorn归一化即可保证有效排列,且多次函数评估未必提升排序质量,表明噪声、参数化、目标与解码器需联合设计。
该论文将长程任务失败拆解为三个可逐步评分的组件:重复识别、局部处理和计数器追踪,在400步账本任务中测试Qwen3-8B。发现重复识别错误在后期上升,而插入无关内容会使计数器在全部种子中失败,但外部精确状态提醒可在一两步内纠正。揭示了聚合错误分类会掩盖组件差异。
提出 RRI(递归奖励改进)方法,用对抗性元提示演化监督模型自写评分标准:先让对手模型写出钻空子的答案,再让同一模型写诚实答案,通过最多两步修复使诚实答案胜出,并将发现的漏洞反馈到后续任务生成。在 HealthBench Professional 上较基线提升 10.9-12.4 分,且无需外部模型,显著改善开放式专家任务的自改进效果。
RSHD 方法针对 GRPO 训练中全部 rollout 失败时无监督信号的问题,让策略对失败尝试写纠正笔记并在上下文中重解,仅当重解成功率高于原组且未泄露答案时才采纳,再蒸馏回普通提示策略。无需额外推理,跨模型与领域稳定优于 GRPO。
提出 MSP 模态自博弈训练框架,用代理文本描述作为语义桥梁,让多模态大模型无需成对跨模态数据即可实现零样本模态组合与推理,在多模态基准上达到领先或竞争性表现,降低了对昂贵对齐数据的依赖。
LEV 是一种循环决策模型,通过重复运行层而非生成 token 来加深推理,单次前向即可对选项打分。同一权重下精度随循环深度提升,2.6B 模型在 JevBench 上从深度1的63.2%升至深度4的76.2%,并用小型停止器按需分配深度,节省15%-24%算力。