ScreenAI: A visual language model for UI and visually-situated language understanding
Google Research 发布 ScreenAI,一个 5B 参数的视觉语言模型,基于 PaLI 架构并采用 pix2struct 灵活分块策略,专门理解 UI 界面和信息图。通过自监督预训练与人工标注微调,在 WebSRC、MoTIF、ChartQA、DocVQA 等任务上达到同规模最优,并开源三个新数据集。
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
共 63 条符合条件
Google Research 发布 ScreenAI,一个 5B 参数的视觉语言模型,基于 PaLI 架构并采用 pix2struct 灵活分块策略,专门理解 UI 界面和信息图。通过自监督预训练与人工标注微调,在 WebSRC、MoTIF、ChartQA、DocVQA 等任务上达到同规模最优,并开源三个新数据集。
Google Research 开源 AutoBNN,用组合式贝叶斯神经网络替代高斯过程做时间序列预测。它自动搜索可解释的核结构,提供可靠不确定性估计,训练复杂度近线性且适配 GPU/TPU,解决了传统 GP 计算昂贵、神经网络缺乏可解释性的问题。
OpenAI 在全球 ChatGPT 中推出 GPT-6,并引入 Intelligent UI,提供更快响应、可视化与可交互体验。这标志着大模型从纯文本对话转向可直接操作的多模态界面,值得关注其对产品形态与交互范式的影响。
本文研究扩散模型去噪分数匹配中,分数网络的秩约束对泛化的影响。通过三层网络实验与随机特征理论分析,发现提高秩可降低训练误差,但测试误差取决于样本量和数据维度,并给出最优秩约束估计的谱刻画与秩阈值。
该论文研究如何将序贯贝叶斯实验设计(BED)摊销进推理型LLM,通过信息增益奖励显式训练引导动作选择的推理过程。在二十问任务上,所得策略以更低计算成本超越训练与推理时BED基线,并迁移至临床对话基准Medi-Q,表明信息收集可作为可泛化的推理技能被学习。
研究检验 MoE 模型中按层、按任务阶段(提示/推理/响应)的专家路由统计能否指导 FFN 张量的分层混合精度量化。作者在 ik_llama.cpp 上为 Qwen-3.6-35B-A3B 构建路由捕获与剖析管线,用坐标下降调优位宽分配。结果显示路由引导的重分配在各质量档位均未超过均匀基线,激进预算下随机分配与路由引导表现相当,说明路由统计并非量化敏感度的可靠代理。
提出 GGPO,一种面向可验证奖励的离策略强化学习算法,通过最小化同一提示下响应的 KL 调整奖励的对数均值指数对比,避免学习者到行为策略的重要性权重,从而降低长响应的高方差。实验显示其在数学推理上优于 GRPO 和 AGRO,并能在策略陈旧度增大时保持性能。
该论文研究高维持续线性回归中显式与隐式正则化的最优强度,推导了固定步数梯度下降的泛化损失闭式解,证明最优步长随任务数近似以 ln T / T 衰减,并与最优 L2 正则等价,还给出对角正则矩阵下最优正则器为各向同性的充要条件。为持续学习系统的步长与正则设计提供理论指导。
提出 Optimal Hydra,一种面向 LLM 微调的模型异构联邦学习框架:结合全局层选择与客户端特定的注意力头选择,依据本地数据分布生成定制子网络 Hydra-nets,在降低客户端资源需求的同时提升性能,是该场景下首个模型异构 FL 方案。
该论文提出对抗性参数分解(VPD)方法,将语言模型参数拆解为简单子组件,使网络在大量子组件被对抗性消融后仍保持输入输出行为,从而支持对参数级计算机制的电路分析,推进机械可解释性研究。
该论文研究如何用预测分位数作为扩散预测器的分布控制信号,提出 Control-TS:冻结预训练扩散骨干,仅学习分位数控制通路,在去噪网络全程施加残差控制。八个基准上一致提升 CRPS,并引入 CLPS 评估生成轨迹的下游预测效用。
提出 ORL,一种面向扩散语言模型(DLM)的在线策略残差学习框架,通过熵收缩目标与异步残差捕获、块扩散注意力等系统协同设计,显著提升每前向 token 数与端到端吞吐。在 Qwen3-4B 转换的 4B DLM 上 TPF 提升至 6.2 倍、吞吐约 6.9 倍,单 H100 服务下速度-质量帕累托前沿优于 EAGLE3/DFlash 投机解码,并可迁移至 LLaDA-2.1-mini 与 DiffusionGemma。
TurboMamba 提出一种混合架构:全局 Mamba-3 按 token 块运行,小型 Transformer 结合块内上下文预测下一 token,并加入前块末 token 直连、分数修正和近期词频混合三项轻量改进。在 FineWeb-Edu 上,其测试 NLL 比 Mamba-3 低 9.4%,训练吞吐提升 2.6 倍,推理延迟降低约 3 倍。
研究稀疏自编码器(SAE)训练所需的数据量,发现功能指标(如重构)在小数据预算下即可接近全量参考,但特征一一复现性随数据持续提升,且随机采样优于多样性采样。该工作揭示数据效率与目标匹配的重要性,为更廉价可靠的 SAE 研究提供依据。
研究指出,RLVR 在域外任务(如数学训练后 MMLU 提升)上的增益很大程度是答案格式变化而非能力提升。用公开答案提取器评分时,82% 的域外选择题增益在改用能读取文本或 \boxed{} 的提取器后消失:RL 只是把答案移进提取器优先查找的框里。该发现提醒评测结果依赖提取器,可用二次评分低成本验证。
该论文将注意力指数核展开为截断泰勒级数,把因果历史压缩为固定数量的循环状态,实现线性时间注意力。在 N=8192 时提速 20.8 倍,解码延迟恒定,精度随阶数指数提升但成本组合增长,最优为二阶 n=3。
FlowBudget 提出一种免训练的采样预算估计方法,用于流匹配模型。它通过无模拟插值探针估计单步离散误差系数,结合求解器阶数将数值容差映射为所需步数,从而避免传统依赖 FID-NFE 扫描的昂贵预算选择。在 SiT、FlowDCN、Rectified Flow 上验证有效,可降低推理调参成本。
该论文提出将语言模型集成视为"陪审团"而非"选民":每个专家的可靠性未知,通过EM算法仅从无标签的答案一致性模式中估计各专家可信度,决策规则等价于对数几率加权的线性打分。在1560题基准上,9个最大3B参数专家的无监督融合效果与有标签拟合权重相当,并优于最佳单模型和最强无标签基线,为无标注场景下的模型集成提供了可靠方案。