14 OPINION
❯ 卡帕西称公众与重度用户对 AI 能力的认知差距正在拉大,多数人只见过“笨拙的聊天机器人”
一个越收越窄的漏斗AI 研究者安德烈·卡帕西(Andrej Karpathy)10 月 11 日在 X 上发帖说,人们对大模型能力的认知差距正在扩大,形状像一个急剧收窄的漏斗。他粗略估算,全球约 60 亿人几乎没接触过大模型;10 亿到 20 亿人偶尔用免费版聊天产品,把它当成更好的搜索或写作助手。这条帖子的浏览量已超过 155 万。
2000 万人和 5000 人再往里是约 2000 万把前沿模型用于数学和编程的专业用户,他们亲眼看到过去要几周、几个月的大型项目,现在由智能体按一段指令完成。最里层是约 5000 名能在内部接触最前沿系统的人,他描述那里是成千上万个智能体连续协作数周,做软件大工程、攻防网络安全、推进数学前沿,人的审阅和理解已经开始跟不上。
三个原因卡帕西把这种分化归为三点。一是影响大小取决于问题的规模,只需要一段话回答的问题根本用不到系统的能力。二是能力分布不均:模型在数字化、可验证、有经济价值的领域最强,因为它的能力来自在可验证奖励上的强化学习。三是使用权限:免费版、付费版和内部版看到的东西不同。
同一时间的三种体感他总结说,大众看到的是笨拙的聊天机器人,多数专业人士只感到有限的提升,一小部分人却在体验曲线陡然上升带来的眩晕,这些同时发生。这解释了关于 AI 的讨论为何常常对不上:争论双方用的可能是差了几个层级的产品。企业管理者如果只凭自己用免费版的印象做判断,容易低估正在发生的变化。
▮ SIGNALAI 能力的扩散是不均匀的,判断一项技术走到哪一步,先要问清楚说话的人用的是哪一档产品、拿它解决多大的问题。