Google DeepMind·· 2026-04-22精选AI 评分76
Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构
Decoupled DiLoCo: A new frontier for resilient, distributed AI training
AI 导读
Google DeepMind 提出 Decoupled DiLoCo，通过将训练拆分到彼此解耦的计算岛并异步传输数据，降低跨数据中心训练的带宽依赖并隔离硬件故障。
推荐理由
Decoupled DiLoCo 将异步训练、容错和跨地域低带宽连接结合起来，展示了分布式预训练如何利用异构及闲置算力。
来源：Google DeepMind · deepmind.google