部署与算力Google AI Blog4 天前
Advances in private training for production on-device language models
Google 分享 Gboard 端侧语言模型私有训练的进展:所有下一词预测模型均采用联邦学习并具备形式化差分隐私保证,覆盖 7+ 语言、15+ 国家,ε 低至 0.994,是已知最大规模用户级 DP 生产部署,对端侧 AI 隐私落地有标杆意义。
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
共 2 条符合条件
Google 分享 Gboard 端侧语言模型私有训练的进展:所有下一词预测模型均采用联邦学习并具备形式化差分隐私保证,覆盖 7+ 语言、15+ 国家,ε 低至 0.994,是已知最大规模用户级 DP 生产部署,对端侧 AI 隐私落地有标杆意义。
提出 Optimal Hydra,一种面向 LLM 微调的模型异构联邦学习框架:结合全局层选择与客户端特定的注意力头选择,依据本地数据分布生成定制子网络 Hydra-nets,在降低客户端资源需求的同时提升性能,是该场景下首个模型异构 FL 方案。