❯ 奥特曼向员工讨论 AI 三种发展终局，倾向建立国际安全核查机制

内部讨论涉及研发边界The Rundown 10 月 21 日转述 The Information 报道，OpenAI CEO 萨姆·奥特曼在此前一周的内部讲话中讨论了 AI 发展的三种可能终局。问题的背景是：如果 AI 能持续改进自身，现有“通过安全测试后发布”的方式，是否还足以约束研发风险。

更支持共同核查报道描述的第一种路径，是建立类似国际原子能机构的国际组织，执行统一安全标准，奥特曼倾向这一方向。第二种设想是把主要实验室合为一个研究机构，共同推进研发，并向合作方提供模型；这仍属于内部讨论的情景，不是实验室之间已开始的合并交易。

明确反对极端赢家通吃第三种情景是某家实验室率先实现递归自我改进，即利用 AI 持续改进下一代 AI，再阻止其他主体继续开发。奥特曼据称将其形容为糟糕的结果。“熔掉其他人的 GPU”属于报道中的极端表达，并非 OpenAI 已宣布的行动方案。

需要决定何时限制研发报道指，奥特曼将未来约一年内选择发展路径的讨论称为“pacing 2.0”，其中应包括自我改进系统的速度限制或停止条件。讨论的实质，是竞争中的实验室如何在能力快速增长时共同承担安全义务；目前尚无一套已达成的行业实施方案。

▮ SIGNAL当 AI 开始参与研发下一代 AI，安全治理需要回答的不仅是能否发布，还包括何时限制研发速度及由谁执行限制。