Hugging Face Blog·· 2026-05-27精选AI 评分87
Hugging Face 将 Delta Weight Sync 接入 TRL,异步 RL 权重传输降至每步 20–35 MB
Shipping a Trillion Parameters With a Hub Bucket: Delta Weight Sync in TRL
AI 导读
Hugging Face 在 TRL 中加入 Delta Weight Sync,仅编码相邻 RL 步骤间发生变化的 bf16 权重,并通过 Hugging Face Bucket 供 vLLM 获取。Qwen3-0.6B 的单步传输量从 1.2 GB 降至 20–35 MB;完整演示将训练器、vLLM 和 Wordle 环境部署在不同机器或 Spaces 上,无需共享集群网络。
推荐理由
Hugging Face 将稀疏权重同步接入 TRL,通过 Hub Bucket 传输变化元素,展示了跨环境部署异步 RL 的工程路径。
来源:Hugging Face Blog · huggingface.co