❯ 微软发布第三代自研 AI 芯片 Maia 300,2027 年起以数吉瓦规模部署并承担自家产品的主要推理任务
自研芯片要当主力微软云与 AI 业务负责人 Scott Guthrie 10 月 12 日在官方博客宣布第三代自研 AI 加速器 Maia 300,并表示从 2027 年起,Maia 系列将以数吉瓦规模部署,成为微软产品和服务的主要推理系统。推理指模型训练完成后响应用户请求的计算,Copilot 每回答一次问题都要用到。
一个机柜 96 颗Maia 300 采用多芯粒设计,计算芯粒用台积电 N2P 工艺制造,每颗配 8 组 HBM4 高带宽内存,功耗 950 瓦。一个机柜装 96 颗加速器,总功率 167 千瓦。微软估算,它每兆瓦电力产出的 token 比主流 GPU 系统多 40%,整柜吞吐量最高是上一代 Maia 200 的 7 倍;这些是微软自己的数字。
上一代已经在跑 Copilot据微软介绍,Maia 200 已经投入生产,承接 Microsoft Copilot 等业务,运行 OpenAI 模型、微软自研的 MAI 模型和开源模型,部署在美国、欧洲和澳大利亚;GitHub Copilot 和 Microsoft Foundry 计划年底前接入。SiliconANGLE 提到,Maia 300 的内存容量与英伟达 Rubin 相同,内存带宽低约 20%。
省下的是每一次回答的成本微软的 AI 功能已经嵌进 Copilot、Teams 和 GitHub,用户用得越多,推理账单越大。自研芯片如果真能在同样的电力下多产出四成 token,受益最直接的是微软自己的产品毛利。Maia 300 明年才开始生产部署,微软说下个月的 Ignite 大会会公布更多信息。
▮ SIGNAL云厂商造芯片的目标已经从“有一颗备用”变成“让它当主力”,英伟达在推理市场面对的最大竞争者,正是它最大的几个客户。