Chain-of-table: Evolving tables in the reasoning chain for table understanding
Google 提出 Chain-of-Table 框架,让 LLM 通过逐步生成表格操作(选列、聚合、排序等)迭代演化表格,形成可解释的推理链,解决表格结构难以被语言模型理解的问题,在 WikiTQ、TabFact、FeTaQA 上取得 SOTA。
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
共 12 条符合条件
Google 提出 Chain-of-Table 框架,让 LLM 通过逐步生成表格操作(选列、聚合、排序等)迭代演化表格,形成可解释的推理链,解决表格结构难以被语言模型理解的问题,在 WikiTQ、TabFact、FeTaQA 上取得 SOTA。
Google Research 在 ICLR 2024 提出将图结构编码为文本以提升 LLM 图推理能力,并发布 GraphQA 基准。研究发现编码方式、任务类型和图结构会影响性能,选对编码方法可使 LLM 图任务表现提升高达 60%。
OpenAI 发布内部前沿模型在数学开放问题上的新成果,并在 GitHub 公开 Lean 证明形式化与研究细节,展示 AI 在数学推理与形式化证明上的进展,值得关注其对科研自动化的推动。
该论文研究如何将序贯贝叶斯实验设计(BED)摊销进推理型LLM,通过信息增益奖励显式训练引导动作选择的推理过程。在二十问任务上,所得策略以更低计算成本超越训练与推理时BED基线,并迁移至临床对话基准Medi-Q,表明信息收集可作为可泛化的推理技能被学习。
论文研究如何从语言模型输出中提取影响决策的关键子问题(cruxes),提出三种成本递增的策略:先验询问、单次推理后提取、多次采样对比提取。实验发现前两种廉价方法均不足以识别完整关键因素,高 stakes 决策仍需多次采样,但可用 reranker 将成本降至 judge 的约 1/86。
CoTS 提出一种免训练的隐式推理框架,用最高两个候选 token 的概率竞争动态调节离散承诺与软探索的强度,替代传统阈值硬切换,无需额外前向计算,在六个推理基准上优于标准 CoT 及现有免训练隐式推理方法。
AbridgeKV 训练模型把已完成的长推理文本块压缩进少量可学习 pause token 的 KV 条目,从而释放原始缓存,后续 token 改为关注这些 pause token。在 AIME 等 446 道竞赛题、32K 生成下,仅保留四分之一缓存即可匹配全 KV 模型精度,vLLM 中单序列缓存缩小 3.5 倍、H100 完成速度提升 3.2 倍。
RSHD 方法针对 GRPO 训练中全部 rollout 失败时无监督信号的问题,让策略对失败尝试写纠正笔记并在上下文中重解,仅当重解成功率高于原组且未泄露答案时才采纳,再蒸馏回普通提示策略。无需额外推理,跨模型与领域稳定优于 GRPO。
LEV 是一种循环决策模型,通过重复运行层而非生成 token 来加深推理,单次前向即可对选项打分。同一权重下精度随循环深度提升,2.6B 模型在 JevBench 上从深度1的63.2%升至深度4的76.2%,并用小型停止器按需分配深度,节省15%-24%算力。
提出基于ASP的声明式框架,对动态环境中交互运动轨迹进行可解释的预期推理,融合ASP动力学建模、语义引导的分支轨迹预测与能量优化排序,在Argoverse 2上验证,相比端到端随机预测可给出可检查的事件级假设。
该论文将评估器引导的推理建模为计算感知的三动作控制器(信任答案、回退、继续扩展),通过预测答案成功率与基于 rollout 的续推成功率来打分,并显式计入算力成本。方法学习并校准动作级置信度,在宽度扩展与修订任务上提升效用,同时将在线算力分别降低约 30% 和 16%。
AlphaDiana 是一个面向可验证推理任务的智能体评测系统,提供数据集、智能体、环境与评分器的模块化接口,可在保持原生控制循环的同时分别控制文件复用与记忆保留。研究发现,工具框架并不总能提升推理准确率,技能引导与历史记忆也未必可靠,需结合正确性评估行为与 token 消耗。