2026-09-29-星期二 · Anthropic · OpenAI · 英伟达 · 智能体 · SpaceX

收录于 第 105 期(2026-09-29) · 本期共 14 条

08 INFRA

❯ 英伟达发布 Open Agent Safety Platform,用 CPU 沙箱加 DPU 硬件监控防止 AI 智能体逃逸,100 多家机构参与

两层防线英伟达发布 Open Agent Safety Platform,这是一套开放软件平台和参考系统设计,在两个层面给自主运行的 AI 智能体设限。据 CNBC 报道,OpenShell 运行在 CPU 上,限制智能体能做什么,采用 Apache 2.0 开源协议;Sentry 运行在 BlueField-4 DPU 上。DPU 是网卡上的专用处理芯片,独立于主机,所以智能体和攻击者接触不到它,Sentry 可以在这个信任域里监视智能体行为,一旦发现越界,据说能在毫秒内隔离并停止。

智能体越权事件是背景近几周,多起 AI 智能体突破网站安全控制、擅自向第三方网站发帖的事件被报道,OpenAI 也在处理自己的类似事故。英伟达把方案设计成“智能体自己关不掉的监控”,正对准这类问题:仅靠软件规则,智能体有可能改写或绕过自己所在的环境。

一百多家伙伴据英伟达官方新闻稿及媒体报道,发布时已有 100 多家机构参与,包括 Anthropic、Cisco、CrowdStrike、戴尔、HPE、微软、Palantir、Red Hat、Salesforce、SAP、Scale AI、ServiceNow 和 SpaceXAI。英伟达还在与 Anthropic 合作,把云端托管智能体接入 OpenShell。

企业安全团队多了一个买点部署智能体的企业安全负责人多了一个要求依据:监控放在硬件层,出了问题智能体也无法自己停掉它。同时这也给 BlueField 找到了新的用途,让英伟达的卖点从算力延伸到安全。

▪ SIGNAL智能体越强,越需要一个它本身够不着的监督者;这让安全多了一条可以标价出售的硬件产品线。