行业
PremiseCheck: Efficient Fact-Checking of Human and AI Peer Reviews
提出 ReviewFact 基准与 PremiseCheck 框架,用于检测人类或 AI 审稿意见中对论文内容的事实性误述。做法是让 LLM 将评论改写为显式前提,再用廉价判定模型逐条对照论文核验,在 NLP、机器学习与自然科学三个领域以约一半成本达到前沿 LLM 的准确率。
行业落地·arXiv cs.CL·5 天前
先用站内已采集内容作答;站内不足时联网检索,每条结论都给出来源链接
1 条 · 点击可看原文全文与中文译文
提出 ReviewFact 基准与 PremiseCheck 框架,用于检测人类或 AI 审稿意见中对论文内容的事实性误述。做法是让 LLM 将评论改写为显式前提,再用廉价判定模型逐条对照论文核验,在 NLP、机器学习与自然科学三个领域以约一半成本达到前沿 LLM 的准确率。
结论:现有资料只能给出方向性结论——PremiseCheck 以约一半成本达到前沿 LLM 的准确率,但资料中没有给出具体的成本数值和准确率数值,因此无法量化两者的差异。
如需具体的成本与准确率数字(如每千条评论的美元成本、F1 或准确率百分点),现有资料不足以回答,建议查阅论文原文的实验章节。