2026年11月14日 星期六 · 英伟达 · ThinkingMachines

收录于 第 150 期(2026-11-14) · 本期共 12 条

06 MODEL

❯ Thinking Machines 开放 Inkling 2 Small 权重,5940 亿参数模型采用原生 4 位训练

从托管使用走向下载部署Thinking Machines Lab 已开放 Inkling 2 Small 权重,官方于 11 月 12 日更新发布说明,开发者可在 Hugging Face 下载 Apache 2.0 许可的检查点。该模型于 11 月 5 日首次推出,最初通过 Tinker 提供服务;它采用混合专家架构,总参数为 5940 亿,每次处理激活约 170 亿参数,并支持图像输入。

低精度贯穿训练过程Inkling 2 Small 在预训练、中间训练和后训练中采用 NVFP4,也就是英伟达 Blackwell 架构支持的 4 位浮点格式。这让开放出来的低精度检查点与训练所用精度保持一致;模型面向编程、视觉理解和长时间工具调用任务,并可在 Tinker 上继续定制训练。

开放权重仍需要大规模显存官方模型卡显示,NVFP4 版本至少需要合计 500GB GPU 显存,另一种 MXFP8 检查点至少需要 800GB。厂商同时提供多家云端 API 入口,开发者可在自行部署和托管调用之间选择;“Small”对应其模型系列中的定位,实际运行仍面向多卡服务器。

▮ SIGNAL原生低精度训练让开放权重的重点进一步落到实际运行成本上,但数百 GB 的显存门槛仍让部署优势主要属于有集群资源的企业和云服务商。

同一事件的 AI 自动追踪与来源

Thinking Machines Lab 发布 Inkling 2 Small 并计划下周开放权重 →