IT之家:网友用英特尔 Optane 持久内存在无显卡环境下跑起 Kimi K3
Reddit 用户 u/IndividualSurvival 11 月 2 日分享了一项家庭实验,称他在没有显卡的环境下,用已停产的英特尔 Optane 持久内存跑起了月之暗面 Kimi K3。该模型参数达 2.8 万亿,测试平台配备 40 核第三代至强可扩展处理器,并通过 App Direct 模式配合 llama.cpp 推理。性能仍偏慢,1 比特量化时速度约每秒 0.85 个词元,关闭 DAX 后升至 1.50 个词元。