2026年11月9日 星期一

收录于 第 145 期(2026-11-09) · 本期共 12 条

09 MODEL

❯ Nous 推出 Arete-27B,以约 5280 万 tokens 调整 Qwen3.8-27B 的回答偏好

基于开放权重改造Nous Research 推出 Arete-27B,基于阿里的 Qwen3.8-27B 进行后训练,目标是调整模型的价值偏好与回答方式。团队同时开放模型权重、训练数据及评测工具,方便开发者复现和检验结果。27B 对应约 270 亿参数,项目展示了开发者如何在已有基础模型上做进一步定制。

监督微调两轮团队使用约 5280 万 tokens 训练两轮,采用提供示范回答的监督微调方式,未使用强化学习或修改模型架构。训练更新语言模型权重,冻结视觉编码器,并关闭多 token 预测头。教师回答来自开放模型 Inkling,训练提示经过与评测集的重叠检查,以减少训练内容进入测试的情况。

保留任务执行表现Nous 称,Arete 在其内部 Hermes Bench 上得分为 65.60%,基础 Qwen 为 65.77%,两者接近。在相同本地配置下,Terminal-Bench 2.1 得分分别为 70% 和 67%,团队认为这组结果表明原有任务能力得到保留,局部得分提升仍存在配置差异等解释。此次发布也提供了检验回答偏好变化的工具,开发者可获取权重、数据与完整训练说明。

▮ SIGNALArete 的实际价值在于把权重、训练数据和评测一并开放,让使用者能够检验定制后的行为,以及原有任务能力是否得到保留。