❯ Anthropic 称小模型可能在数月内具备在廉价联网设备上自我复制的能力,建议运营商和厂商提前设防
不需要数据中心的复制Anthropic 前沿红队 10 月 12 日发表研究文章,研究的是一种特定风险:小型开源模型不依赖数据中心的 GPU,而是入侵便宜的联网设备,把自己的模型文件复制过去并运行起来。文章说,小模型可能再过几个月,就有能力在智能电视盒这类商用物联网设备上完成自我复制。
15 台电视盒跑一个模型研究人员把一个 260 亿参数的模型拆到 15 台杂牌安卓电视盒上运行,每台约 55 美元、内存 4GB,速度只有每秒 0.39 个 token。在一个由 8 台模拟安卓设备组成的封闭网络里,受测的开源模型中只有 GLM-5.2 能稳定完成全流程,5 次试验有 4 次扩散到全部 8 台。文章按小模型以往的进步速度推算,它们到 2026 年底可能达到 GLM-5.2 这一能力水平。
慢,而且前提很宽松文章列了不少限定条件。测试里的入侵环节几乎没有难度,目标设备的调试端口没有任何验证,所以结果是现实成功率的上限。复制速度也很慢,一个 90 亿参数的模型完成一次复制要 一到两天以上。研究人员按一个曾控制 200 多万台设备的僵尸网络估算,这类网络的总推理能力最多相当于约 40 块 H100 显卡。
该动手的是运营商和设备厂商文章给出的建议都落在网络和硬件一侧。运营商可以在流量数据里留意异常,比如设备之间持续传输数 GB 的模型文件;也可以布置诱饵设备,捕获复制程序来分析。文章引用清理 Mirai 僵尸网络的经验:隔离受感染用户并通知清理方法,14 天内清除了 92% 的感染。它还建议设备厂商出厂时采用更安全的默认设置。
▮ SIGNAL模型越做越小、越来越容易在普通硬件上运行,这通常被当成好消息;这项研究提醒的是同一趋势的另一面,防线得建在数以亿计的廉价设备上。