2026-07-31-星期五 · 英伟达 · KimiK3

收录于 第 48 期(2026-07-31) · 本期共 14 条

❯ 独立评测显示 Kimi K3 仅权重就需约 1.56TB 内存,单机门槛被抬到顶配

跑不动独立评测机构 Artificial Analysis 实测,Kimi K3 光是权重就要约 1.56TB 内存,模型总参数 2.8 万亿、每 token 激活 1040 亿。能在 4 比特精度下单节点扛住它的,目前只有英伟达 B300 和 AMD 的 MI350X/MI355X;此前常见的 Hopper、B200、MI300X 节点全都装不下。

开源不等于可用官方部署建议还要更狠:vLLM 给出的最低显存估算约 1680GB、推荐至少八张 GB300,月之暗面自家的生产指引则建议用 64 张以上加速卡的高带宽超节点。目前的情况是,开源权重与”本地能跑”之间的那道缝已经被这一代模型拉开——权重可以自由下载,但接得住它的硬件只剩数据中心里那一小撮。

谁还能自建中小团队的部署路线基本被这条门槛切断,能选的只剩云端 API 或托管推理,自建私有部署的成本已经不在同一量级。开源模型的实际受益方因此在悄悄转移,从个人开发者转向有机房的企业和云厂商。所谓开放,越往前走越取决于你有没有那 64 张卡。

▪ SIGNAL权重开放这件事,正在被硬件重新收窄成少数人的权利。