跳到正文
原文
Hugging Face Blog·· 2026-05-27精选AI 评分87

Hugging Face 将 Delta Weight Sync 接入 TRL,异步 RL 权重传输降至每步 20–35 MB

Shipping a Trillion Parameters With a Hub Bucket: Delta Weight Sync in TRL

AI 导读

Hugging Face 在 TRL 中加入 Delta Weight Sync,仅编码相邻 RL 步骤间发生变化的 bf16 权重,并通过 Hugging Face Bucket 供 vLLM 获取。Qwen3-0.6B 的单步传输量从 1.2 GB 降至 20–35 MB;完整演示将训练器、vLLM 和 Wordle 环境部署在不同机器或 Spaces 上,无需共享集群网络。

推荐理由

Hugging Face 将稀疏权重同步接入 TRL,通过 Hub Bucket 传输变化元素,展示了跨环境部署异步 RL 的工程路径。

来源:Hugging Face Blog · huggingface.co