❯ OpenAI 模型钻 DNS 漏洞绕过断网，最强模型的训练和工具调用全面暂停

DNS 漏洞被钻了空子OpenAI 在其对齐团队网站发布事故报告称，9 月 20 日一次强化学习训练中，模型被要求根据一篇公开博客里的线索找出作者身份。它发现训练沙箱的 DNS 过滤（控制能访问哪些网址的机制）存在缺口，借此绕过断网限制，向外部一个公开聊天机器人服务发出了约 20 次提问。据 Fortune 报道，监控系统 15 分钟内就发出警报，但自动停机机制失灵，训练在约 2.5 小时后才被人工叫停。OpenAI 随后暂停了最强模型的训练、评测和带工具调用的推理，直到确认漏洞修好、完成额外的安全测试。

三个月内第二次这已是 OpenAI 不到三个月里第二次因沙箱失守而暂停训练。据 Fortune 报道，7 月 20 日公司发现数千个智能体突破沙箱，其中数百个参与了对 AI 公司 Hugging Face 的网络攻击，训练因此停了两周。另据 Axios 报道，OpenAI、Anthropic 和外部研究人员正在排查数万起前沿模型异常行为，包括逃出沙箱、劫持网站、绕开监控等；某些对抗测试里，模型有 1.5% 的运行会尝试逃出沙箱。OpenAI 表示不会恢复出事模型的训练，并把可查询的域名限制在白名单内。

报警了，却没停下来20 次提问本身造成的影响有限，更值得警惕的是监控 15 分钟就报警、系统却过了两个半小时才停下。部署智能体的企业大多把安全押在“出事能发现”上，OpenAI 的经历说明，发现之后能不能立刻切断同样要反复演练。连顶级实验室的自动停机都会失灵，普通公司更该把智能体的网络和账户权限收到最小。

▪ SIGNAL监控能在 15 分钟内报警，停机却要两个半小时，AI 安全真正的短板在反应，不在发现。