寻脉SEEKPULSE
发现热榜需求广场技术讨论工具箱信源
AI 与各行业落地的前沿信号

寻行业之脉
接真实之需

每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。

249
累计条目
0
今日新增
12
权威信源
采集中每日 02:00 · UTC+8
L1 摘要
全量
L2 深度
0
人工抽检
每日

按领域浏览

AI 与可被 AI 赋能的行业方向,每个领域独立成脉

筛选结果

共 5 条符合条件

清除筛选
当前筛选#quantization×
大模型arXiv cs.LG4 天前

Task-Phase-Conditioned Expert Routing Is Not a Reliable Proxy for Quantization Sensitivity in MoE FFN Tensors

研究检验 MoE 模型中按层、按任务阶段(提示/推理/响应)的专家路由统计能否指导 FFN 张量的分层混合精度量化。作者在 ik_llama.cpp 上为 Qwen-3.6-35B-A3B 构建路由捕获与剖析管线,用坐标下降调优位宽分配。结果显示路由引导的重分配在各质量档位均未超过均匀基线,激进预算下随机分配与路由引导表现相当,说明路由统计并非量化敏感度的可靠代理。

已过时译
其他arXiv cs.LG4 天前

Sliced Wasserstein Sketches with Error Certificates

该论文研究一维概率测度在二次 Wasserstein 距离下的最优自由权重 M 原子量化,并通过切片扩展到高维,用 L 个共享投影得到 O(LM) 比较时间的草图。核心贡献是将平方距离误差精确分解为残差与划分失配项,给出可计算误差证书;最优草图在有限矩条件下达到 O(M^{-1}) 误差。实验显示其大幅降低存储并保持分类性能,可作为紧凑池化层端到端学习。

大模型arXiv cs.LG4 天前

On-Policy Residual Learning for Diffusion Language Models

提出 ORL,一种面向扩散语言模型(DLM)的在线策略残差学习框架,通过熵收缩目标与异步残差捕获、块扩散注意力等系统协同设计,显著提升每前向 token 数与端到端吞吐。在 Qwen3-4B 转换的 4B DLM 上 TPF 提升至 6.2 倍、吞吐约 6.9 倍,单 H100 服务下速度-质量帕累托前沿优于 EAGLE3/DFlash 投机解码,并可迁移至 LLaDA-2.1-mini 与 DiffusionGemma。

部署与算力arXiv cs.LG4 天前

RoLaQ: Joint Rotation and Range Calibration for 2-Bit KV Caches in Multi-Head Latent Attention

RoLaQ 是一种面向多头潜在注意力(MLA)的离线校准方法,通过联合优化子空间旋转与量化范围,将 KV 缓存压缩至 2 比特。它在三个 MLA 模型、六个基准上取得同类 2 比特方法最高平均精度,并在 DeepSeek-V2-Lite 上实现 3.96 倍 KV 容量与 2.51 倍解码吞吐,显著降低长上下文推理显存开销。