❯ OpenAI 首席科学家称没有实验室把对齐做到足以全速扩张,望自愿减速成为常态
原话OpenAI 首席科学家 Jakub Pachocki 在 9 月 5 日发布的公司博客上写下一句极不寻常的自陈:「目前我认为没有任何实验室把对齐与监控做到了足够程度,能负责任地再以最高速度扩张多久。」他呼吁在行业形成共同安全标准之前推行自愿减速,并称 OpenAI 在必要时可能单方面停止进一步扩张。奥特曼转发这篇文章,只写了一句「Jakub 的一篇重要文章」。
另一半同一篇文章的另一半是加速:Pachocki 称按公司的测量口径,OpenAI 已达成去年秋天宣布的目标——在今年 9 月拥有「自动化研究实习生」,即人类监督下能完成熟练研究员需数日才能做完的明确任务的系统;下一步是 2028 年 3 月做出完整的自动化 AI 研究员。他还说,基于内部结果,他强烈预期这个速度能延续到递归自我改进。
内部数据文章第一次公开了内部研发加速的量化口径:OpenAI 工程师人均改动的代码量约为 2025 年之前基线的 7 倍。另一组「时间跨度」数据更能说明边界——15 分钟以内的任务无人干预成功率 86%,任务变长后急剧塌陷。研究流程也已从个人使用助手,转向研究员同时监督多个并行智能体。@simonw 注意到 token 消耗在 7 月中旬有一次陡增,推测正是 Astra 对内开放的时点。
两条曲线减速呼吁与递归自我改进预期写在同一篇文章里,这不是矛盾,是把安全标准的制定权抢在能力曲线前面的一次尝试。问题在于「自愿」二字没有执行机制:一家实验室单方面停下,只会把领先让给不停的那家。下一步的观察变量很具体:OpenAI 在 2028 年 3 月那个时间点前是否真的停过一次,以及有没有第二家实验室跟着发出同样的承诺。
▪ SIGNAL一边说没人把对齐做够,一边给自动化研究员定下 2028 年 3 月的日期,这两句话之间的距离就是整个行业的风险敞口。