❯ Altman表态欢迎联邦安全框架与独立审计,但称前沿实验室不必等立法再动手
两条帖子Sam Altman 9月14日在X上连发两条长帖,称世界应该相信开发越来越强AI的美国公司会负责任行事。他欢迎一套带统一安全要求的联邦框架,包括引入独立审计方,但表示公司不应等待立法或反垄断豁免再开始做。
他怕的两件事他把风险写成两条,一是失去对未来的控制,AI必须始终服务人;二是权力过度集中,一个极强模型被用来把世界观强加给所有人。配套动作是在前沿强化学习训练前先写出安全论证。此前,OpenAI政策负责人Chris Lehane已在9月9日发文,要求国会按能力分级立法。
采购方的问项对企业采购方,安全论证前置等于多了一项能写进合同的材料。对其他实验室,压力落在把同样的流程做成可被外部审查的文档要花多久,这决定了统一安全要求会变成行业惯例,还是停在几家公司的自我承诺,也决定了采购方要不要把安全条款写进验收清单。
▪ SIGNAL安全论证前移到训练前,改的是实验室内部的排期权,不是对外的措辞。