04 MODEL
❯ Anthropic 称未来模型或很快触及 AI 研发加速门槛,现有模型尚未越线
新预期写入上市文件Anthropic 在 11 月 2 日提交的 S-1/A 修订文件中表示,内部估计及对未来模型的预期显示,公司可能很快达到其《负责任扩展政策》所定义的“由 AI 带来的研发进展显著加速”门槛。公司同时明确,尚未将任何现有模型认定为超过这一门槛,仍在评估数据。
AI 帮助研发下一代 AI这一讨论涉及“递归自我改进”:模型参与研究、编程和工程,让下一代模型开发更快,后者又可能进一步提高研发效率。Anthropic 在文件中称,各代 Claude 已用于帮助构建后续版本。其政策说明强调,相关门槛关注 AI 整体能力进步速度的提升,而不仅是个别研究员工作效率变高。
评估速度面临新要求文件还披露,公司过去曾在研发显著加速发生后才识别出这一变化,因为部分衡量指标具有滞后性。Anthropic 表示,即使技术上能够实现,也不预计在缺乏有意义的人类监督和理解的情况下,安全地让 Claude 全自主设计连续几代前沿模型,并正考虑调整政策以保持人类对研发的控制。
▮ SIGNAL当 AI 同时承担研发工具和研发对象,能力评估与安全措施也必须跟上实验迭代的速度。