据IT之家11月5日报道,月之暗面按照10月24日发布时的承诺,在Hugging Face平台开放了Kimi K3.1 Pro的模型权重。这次开放的是总参数量达2.8万亿的模型,采用混合专家架构,单次推理激活约1040亿参数,支持约100万Token上下文窗口。

与权重开放同时受到关注的是它在AI智能体任务中的表现。报道显示,Kimi K3.1 Pro(Max)在Arena运营的Agent Arena排行榜中位列开放权重模型第一、全部参评模型第13位,在工作、编程与聊天三个类别中也均居开放模型首位。此次排名基于全球用户超过1.75万次真实长周期智能体任务会话。

这一榜单并非让用户对两个回答进行盲测投票。它从真实智能体会话中提取任务完成确认、表扬与投诉、纠正指令、Shell命令执行错误等信号,再通过Arena称为“因果追踪”的随机化推断方法,估算模型相对于平均水平的净改进率。K3.1 Pro此次为+5.1%,上一代K3(Max)为+0.9%,相差4.2个百分点。

分项结果并非全部居首。衡量Shell命令执行可靠性的Bash Reliability从K3的-4.5%升至+7.9%,位列开放模型第一;衡量模型根据用户反馈调整执行方向的Steerability为+6.5%,同样居开放模型首位。用户明确确认任务完成的Confirmed Success则为+3.9%,位列开放模型第四。

模型训练和结构也有调整。据报道,K3.1 Pro以K3为基座,进行了覆盖数百个下游领域的大规模联合强化学习后训练,并将部分全注意力层替换为门控稀疏注意力层,以降低长上下文建模的开销。

开放权重不等于消费级设备能够本地部署。IT之家指出,2.8万亿参数以BF16精度存储的权重文件约为5.6TB,即使采用INT4量化也仍需约1.4TB,单机消费级显卡基本不具备部署可能。对这次开放而言,权重已经可下载,而实际运行仍有很高的硬件门槛。

原始来源:月之暗面 2.8 万亿参数 Kimi K3.1 Pro 开放权重,登顶 Agent Arena 开放模型榜