❯ 腾讯称算力变化或拉长下一代混元训练周期,预计云收入受影响较小
同一批芯片,两种需求腾讯总裁刘炽平在第三季度业绩会上表示,可用算力减少会影响行业的自建和租赁资源,下一代混元模型的训练可能需要更长时间。路透社对业绩会的报道也记录了管理层对另一项业务的判断:预计云收入不会因此受到重大影响。
云收入和训练进度为什么能有不同结论在电话会问答中,分析师把问题放在腾讯过去两个季度的大额采购之后:公司为获得足够的算力已经付了多少钱,新的供应环境会不会打断刚刚加快的云业务增长?管理层给出的答案有两个时间尺度。现有客户今天调用已上线的模型,需要的是能承接请求的推理资源;研究团队则要为下一代混元在一段连续时间内集中足够多的训练资源。两类任务可以同时面临供应变化,却在不同的时间点表现出来。
训练和推理为何有别训练新模型需要组织足够的芯片同时工作;已训练好的模型为客户处理请求,则可以通过改进模型效率来降低每次调用所需的算力。腾讯首席战略官 James Mitchell 表示,已有高效率模型可以用数量相对有限的国产芯片运行。
从先保内部,到给外部客户分配资源路透社回顾,一年前腾讯曾表示,芯片供应紧张时会优先满足内部需求,能出租给外部客户的资源因而受限。本季度财报中,公司已经明确提到向模型服务和 GPU 租赁分配了更多算力。管理层判断云收入受影响较小,背景正是现有模型效率提高、算力可以在不同业务间调配。至于下一代模型,公司仍须完成一轮新的训练,因此只给出了时间可能拉长的判断。
下一代仍无新日期刘炽平预计,从更长时间看,企业将更多依赖国内芯片和供应链,研发资源也会随之集中。对下一代混元,他给出的是训练进度可能放缓的判断,没有在这次表态中给出调整后的发布日期。
▮ SIGNAL评估腾讯的算力供应,要分开看新模型需要多久才能训完,以及现有模型每天还能支撑多少客户请求。