SoftCache让扩散模型缓存步长自适应
SoftCache是一种免训练缓存方法,利用动态缓存中陈旧度信号的余量预测复用误差,将二值刷新开关改为自适应步长:余量大时跳过多个调度节点,临近刷新时步长收缩回原值。在FLUX图像及HunyuanVideo、Wan2.1视频上实现3.5至6.9倍加速,四项保真度指标全面领先基线。
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
共 9 条符合条件
SoftCache是一种免训练缓存方法,利用动态缓存中陈旧度信号的余量预测复用误差,将二值刷新开关改为自适应步长:余量大时跳过多个调度节点,临近刷新时步长收缩回原值。在FLUX图像及HunyuanVideo、Wan2.1视频上实现3.5至6.9倍加速,四项保真度指标全面领先基线。
针对少步自回归视频生成中所有 token 都跑完最终去噪步的浪费问题,提出 Speculative Forcing 框架,将中间干净估计作为草稿,预测哪些 token 可提前接受并冻结,同时保留其 KV 缓存作为上下文。在短视频、长视频和世界生成任务上保持全步采样质量,LongLive 上每 token 约 1.7 步去噪、提速超 1.5 倍。
SUPRA-TEX 提出解耦可见材质估计、表面对齐与观测引导补全的单图3D生成方法,用MLLM编辑模型预测PBR贴图并投影为原生观测潜变量,再由交错流Transformer补全未观测区域,实现所见即所得的高保真纹理,仅用公开数据即达SOTA。
Google Research 发布 SEEDS,一种基于扩散生成模型的天气集合预报采样器,可在极低成本下大规模生成集合成员,量化极端天气不确定性。相比传统物理模拟需上万成员才能刻画 1% 概率事件,SEEDS 仅需一两个业务预报即可生成大集合,为气象与气候科学提供高效概率预报新路径。
本文研究扩散模型去噪分数匹配中,分数网络的秩约束对泛化的影响。通过三层网络实验与随机特征理论分析,发现提高秩可降低训练误差,但测试误差取决于样本量和数据维度,并给出最优秩约束估计的谱刻画与秩阈值。
该论文研究如何用预测分位数作为扩散预测器的分布控制信号,提出 Control-TS:冻结预训练扩散骨干,仅学习分位数控制通路,在去噪网络全程施加残差控制。八个基准上一致提升 CRPS,并引入 CLPS 评估生成轨迹的下游预测效用。
FlowBudget 提出一种免训练的采样预算估计方法,用于流匹配模型。它通过无模拟插值探针估计单步离散误差系数,结合求解器阶数将数值容差映射为所需步数,从而避免传统依赖 FID-NFE 扫描的昂贵预算选择。在 SiT、FlowDCN、Rectified Flow 上验证有效,可降低推理调参成本。
该论文提出时序规范引导(TSG),将文本到视频生成中的顺序、时序与持续要求形式化为时序逻辑规范,在推理阶段无需训练即可将规范转化为可微目标,通过视频-文本注意力轨迹的梯度构造去噪方向,增强CFG。在220条提示上,五个模型的规范满足准确率提升9.5-20个百分点,内存开销极小。
VISTA 是一种免训练方法,用于离散扩散模型的奖励引导生成:它把稀疏 SMC 引导的步数选择建模为对理想全引导概率路径的近似,通过少量全引导预热生成估计路径偏差上界,再用动态规划精确求解最优引导时间表。在文本、生物序列和图像任务上,它自动发现任务相关的时间表,多数场景优于手工稀疏方案,并在毒性文本生成中实现 5.35 倍加速(204.23s 降至 38.16s),毒性比接近全引导。