寻脉SEEKPULSE
发现热榜需求广场技术讨论工具箱信源
其他摘要可能已过时中文全文附件 2arXiv cs.LG · 2026-10-17 · 4 天前

Sliced Wasserstein Sketches with Error Certificates

中文摘要

由模型生成 · 人工抽检

该论文研究一维概率测度在二次 Wasserstein 距离下的最优自由权重 M 原子量化,并通过切片扩展到高维,用 L 个共享投影得到 O(LM) 比较时间的草图。核心贡献是将平方距离误差精确分解为残差与划分失配项,给出可计算误差证书;最优草图在有限矩条件下达到 O(M^{-1}) 误差。实验显示其大幅降低存储并保持分类性能,可作为紧凑池化层端到端学习。

全文

已译中文

arXiv:2610.20788v1 公告类型:新

摘要:支持具有几何意义的比较的紧凑表示,对于从概率分布中学习很有价值。我们研究一维概率测度在二次 Wasserstein 距离下的最优自由权重 $M$-原子量化,并通过切片将其扩展到更高维度。使用 $L$ 个共享投影可得到比较时间为 $O(LM)$ 的草图。我们的主要结果是将平方距离误差精确分解为残差项和划分失配项,从而为任意质心草图给出可计算的误差证书。对于最优草图,若某个 $\delta>0$ 的有限 $(2+\delta)$ 阶矩成立,则可保证有限方向切片距离的误差为 $O(M^{-1})$,而等质量草图的收敛可能更慢。每个切片保持其均值,同时存储残差能量使得能够从足够多的通用方向恢复协方差。在文档、点云和流式细胞术基准测试上的实验表明,最优草图在大幅减少存储的同时,保持了未压缩切片距离的分类性能。它们还改善了从少量有标签受试者上的泛化能力,并可作为紧凑的池化层支持端到端学习。

本译文由模型自动生成,仅供参考与快速理解;涉及数字、版本、命令、法律条文等请以原文为准。

原文附件

2 个 · 均跳转原站,本站不托管文件
有效期判断
起 2026-10-16止 2026-10-01模型置信度 60%

正文为原站公开内容的抓取与清洗结果,英文条目附模型生成的中文译文;两者均仅供参考, 准确内容请以原站为准。内容版权归原作者所有,若认为侵权请联系我们下线。

聊聊这条信息0

补充、质疑、落地经验都欢迎
登录后参与讨论

还没有评论,来写下第一条。

相关脉络

大模型arXiv cs.LG4 天前

Task-Phase-Conditioned Expert Routing Is Not a Reliable Proxy for Quantization Sensitivity in MoE FFN Tensors

研究检验 MoE 模型中按层、按任务阶段(提示/推理/响应)的专家路由统计能否指导 FFN 张量的分层混合精度量化。作者在 ik_llama.cpp 上为 Qwen-3.6-35B-A3B 构建路由捕获与剖析管线,用坐标下降调优位宽分配。结果显示路由引导的重分配在各质量档位均未超过均匀基线,激进预算下随机分配与路由引导表现相当,说明路由统计并非量化敏感度的可靠代理。

已过时译
其他arXiv cs.LG4 天前

Vertical Sliced Wasserstein Distances for Meta-Measures

论文提出垂直切片 Wasserstein 距离(VSW),用于比较观测本身即为概率测度的元测度(P(P(Ω)))。它用连续测试函数投影内层测度,再用一维 Wasserstein 距离比较,避免高维最优传输的高昂开销,并证明其为有效度量、可度量弱收敛且具维度无关的统计收敛性,还给出粒子梯度用于元测度的梯度传输。

大模型arXiv cs.LG4 天前

On-Policy Residual Learning for Diffusion Language Models

提出 ORL,一种面向扩散语言模型(DLM)的在线策略残差学习框架,通过熵收缩目标与异步残差捕获、块扩散注意力等系统协同设计,显著提升每前向 token 数与端到端吞吐。在 Qwen3-4B 转换的 4B DLM 上 TPF 提升至 6.2 倍、吞吐约 6.9 倍,单 H100 服务下速度-质量帕累托前沿优于 EAGLE3/DFlash 投机解码,并可迁移至 LLaDA-2.1-mini 与 DiffusionGemma。