06 MODEL
❯ Thinking Machines 开放 Inkling 2 Small 权重,5940 亿参数模型采用原生 4 位训练
从托管使用走向下载部署Thinking Machines Lab 已开放 Inkling 2 Small 权重,官方于 11 月 12 日更新发布说明,开发者可在 Hugging Face 下载 Apache 2.0 许可的检查点。该模型于 11 月 5 日首次推出,最初通过 Tinker 提供服务;它采用混合专家架构,总参数为 5940 亿,每次处理激活约 170 亿参数,并支持图像输入。
低精度贯穿训练过程Inkling 2 Small 在预训练、中间训练和后训练中采用 NVFP4,也就是英伟达 Blackwell 架构支持的 4 位浮点格式。这让开放出来的低精度检查点与训练所用精度保持一致;模型面向编程、视觉理解和长时间工具调用任务,并可在 Tinker 上继续定制训练。
开放权重仍需要大规模显存官方模型卡显示,NVFP4 版本至少需要合计 500GB GPU 显存,另一种 MXFP8 检查点至少需要 800GB。厂商同时提供多家云端 API 入口,开发者可在自行部署和托管调用之间选择;“Small”对应其模型系列中的定位,实际运行仍面向多卡服务器。
▮ SIGNAL原生低精度训练让开放权重的重点进一步落到实际运行成本上,但数百 GB 的显存门槛仍让部署优势主要属于有集群资源的企业和云服务商。