大模型arXiv cs.CL4 天前
A Jury, Not an Electorate: Label-Free Reliability Estimation for Ensembles of Language Models
该论文提出将语言模型集成视为"陪审团"而非"选民"：每个专家的可靠性未知，通过EM算法仅从无标签的答案一致性模式中估计各专家可信度，决策规则等价于对数几率加权的线性打分。在1560题基准上，9个最大3B参数专家的无监督融合效果与有标签拟合权重相当，并优于最佳单模型和最强无标签基线，为无标注场景下的模型集成提供了可靠方案。