NVIDIA Blog· Amr Elmeleegy·· 9 小时前AI 评分40
NVIDIA 如何通过全栈协同设计提升每字节性能,解决 AI 内存挑战
More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge
AI 导读
NVIDIA 通过协同设计 GPU、CPU、网络、存储与软件,应对更大模型、更长上下文和智能体应用带来的 GPU 内存压力。Blackwell Ultra 到 Vera Rubin 平台的单 GPU HBM 容量约提升 3%,SemiAnalysis AgentX 上的智能体吞吐量每美元最高提升 30x。
来源:NVIDIA Blog · blogs.nvidia.com