❯ Gimlet Labs 融资3亿美元,扩展多芯片推理云
产业资本入股Gimlet Labs 公告完成3亿美元B轮,估值30亿美元,由 a16z 领投。它把模型推理任务拆开,分配给不同类型的芯片协同运行。累计融资 3.92 亿美元,Sapphire Ventures、Menlo Ventures、Arm 和微软旗下 M12 等参投。
五个月换了规模今年 3 月 23 日,Gimlet 刚宣布由 Menlo Ventures 领投的8000万美元A轮;到 9 月初,新一轮规模已是上一轮的 3.75倍。公司在 A 轮时称,公开亮相五个月内客户数量增至三倍,包含一家前沿模型实验室与一家大型云厂商,但未公布两者名字。快速再融资的背景是智能体需要连续调用模型与工具,每一步等待都会累积;客户购买推理服务时,对响应时间的要求随之提高。上一轮帮助它验证需求,新一轮则要把服务规模真正铺开。
芯片按工序分工公司官网对产品的解释比“推理加速软件”更具体:其产品会将模型任务分解,再按客户负载要求与可用硬件调度到 GPU、CPU 及其他加速器。读入上下文和逐步生成答案,对计算与内存的需求不同,适合的芯片也不同。公司既做跨芯片调度软件,也需要相应的数据中心连接能力,因而不能当成轻量软件工具。其 9 月公告称,3 月以来新增了数十亿美元签约收入,并积累吉瓦级数据中心项目储备;这些分别是合同与项目储备,不能直接当成已确认营收和已上线容量。
效率要扣掉复杂度如果把任务分给更合适的芯片,确实能在相同电力约束下多处理请求,推理云就有机会从架构中赚取利润。但混合硬件也带来网络通信、适配、运维和设备利用率的额外成本。投资人要买到的应当是全系统成本优势,而非某一个测试环节跑得更快。Arm 与 M12 的加入提供了产业连接,最终验证仍需落到客户账单:相同模型、相同服务质量下,每次有效任务成本是否更低,以及优势能否持续到下一代芯片上市。
▪ SIGNAL推理云的竞争正在深入芯片分工;性能提升只有覆盖系统复杂度,才能变成可持续毛利。