2026年11月19日 星期四 · Tencent · Hunyuan

收录于 第 155 期(2026-11-19) · 本期共 12 条

11 MODEL

❯ 腾讯开源混元 Hy4 flash 三个版本,支持百万 token 上下文与图文输入

可以下载哪些权重腾讯混元开放 Hy4 flash、Hy4 flash-FP8 和 Hy4 flash Base。开发者可以根据用途选择面向应用的模型、较低精度的权重或用于进一步训练的基础版本。腾讯模型卡将 flash 定位为其迄今性价比最高的 Hy 模型,并列出本地部署方式。

每次计算只调用部分参数按模型卡口径,模型总参数约 2,200 亿,其中约 640 亿为 Engram 参数。其混合专家架构会为每个 token 选择部分专家,单个 token 激活约 120 亿参数。模型原生接收文字和图片,输出文字,上下文窗口最高约 100 万 token。

512 个专家为什么只叫来 16 个模型卡给出了比总参数更有用的一组数字。在带路由的专家层里,一次处理只会从 512 个候选专家中选出 16 个,另有一个共享专家参与;模型还单独保存了用于检索常见相邻词元组合的 Engram 表示。这套做法让开发者在读模型规格时要算两笔账:完整权重决定把模型放进自己的服务器需要准备多少资源,每个 token 实际走过的计算路径,则影响持续运行的成本。

百万上下文可以怎么用例如,开发者可以把一份含扫描页、表格和附注的长材料连同问题交给模型,要求它用文字回答。窗口长度决定一次可以放进多少材料,输出是否准确仍要拿具体页码、图表和答案逐项验证。腾讯为本地部署提供不同精度的权重以及推理框架说明,团队可以用同一组业务样本,测出占用多少显存、等待第一段回答需要多久,再决定采用云 API 还是自建服务。

从自部署到现成应用除下载权重外,开发者可以通过腾讯云 TokenHub 调用模型,WorkBuddy、元宝、企业微信和 QQ 也已接入。腾讯同时预告正在推进 Hy4 的开源工作,本次可下载的是 flash 系列。

▮ SIGNAL开放权重让开发者能用自己的长文档和图片实测 Hy4 flash,在同一批任务上比较自部署与 API 调用的效果和成本。