英伟达详述全栈协同设计如何缓解 AI 内存压力

英伟达在一篇博客中说明，随着更大模型、更长上下文和 agentic 应用推高 GPU 内存压力，公司通过全栈协同设计提升每个字节的有效工作量。文中提到 Blackwell Ultra 到 Vera Rubin 平台，单卡 HBM 容量约增 3%，而在 SemiAnalysis AgentX 上按美元计算的 agentic 吞吐最高提升 30 倍。英伟达还介绍了 NVFP4、Dynamo、CMX 和 cuVS 等手段，用于分担模型权重、KV cache 和 RAG 数据。