08 TALENT
❯ 字节 Seed 单设安全与对齐部门,让智能体能力与授权边界一起建设
严林向吴永辉汇报据钛媒体与动点科技 10 月 13 日报道,字节跳动 Seed 通过内部邮件宣布成立 Seed Model-Alignment & Preparedness 部门,由严林负责,向 Seed 负责人吴永辉汇报。原 Responsible AI 团队及部分 Chat 团队成员转入,安全与对齐工作有了单独的组织承接。
管的不只是回答内容对齐是让模型行为符合人类意图和安全约束。新部门重点提升智能体模型的安全能力,降低自主操作中的滥用与行为偏离风险,工作覆盖行为规范、安全评估、对齐训练、防护及风险监控,并计划加强外部研究与第三方评测合作。
能行动就要能约束智能体从生成文字走向调用工具后,产品团队需要同时判断能做什么、允许做什么,以及出错时如何发现和停止。独立部门能够集中承担这些研究和评估任务,但组织调整本身不等于风险已被解决,能力建设仍要体现为具体评测和运行中的控制措施。
▮ SIGNAL安全与对齐正在进入模型研发的日常组织结构,智能体越能独立行动,越需要可验证的授权边界。