2026-06-29-星期一 · DSpark · DeepSeek

收录于 第 17 期(2026-06-29) · 本期共 10 条

❯ DeepSeek 系初创 DSpark 发布投机解码框架,推理提速 85%

投机解码与 DeepSeek 渊源深厚的初创公司 DSpark 发布了一套投机解码框架,据公司披露可将大模型推理速度提升高达 85%,在「Faster AI, lower costs」这一命题下直接瞄准中国 AI 产业当前最大的工程瓶颈——GPU 受限下的推理效率。

小猜大验投机解码的核心原理是让一个轻量小模型先快速「猜」出后续 token,再由主模型批量验证,从而把串行的逐 token 生成变成并行批处理。这套方法此前在学术界已有验证,但 DSpark 的框架选择了高度可配置的架构,支持不同规模的主模型和草稿模型配对,通用性和可部署性更强。85% 的加幅度等于延迟和单位成本同步下降。

软路径在美国对华 GPU 管制短期内看不到松动的背景下,推理端的软件效率提升正在从锦上添花变成战略必需品。对使用 DSpark 框架的 AI 应用开发商而言,同等 GPU 集群的服务容量可以直接扩约 1.5 至 2 倍,模型的投入产出比会发生跳变。下一步要看框架能否在开源社区获得足够多的适配和压力测试。

signal: 当硬件红利被封住时,推理效率就成了中国 AI 公司的新算力——DSpark 这套框架卡的点恰好是这个缺口。