Kimi K3 — 2.8万亿参数开源模型亮相,全球综合智能第三¶
Ch01.1431 Kimi K3 — 2.8万亿参数开源模型亮相,全球综合智能第三¶
📊 Level ⭐⭐ | 3.1KB |
entities/kimi-k3-2-8t-params-open-source.md
Kimi K3 — 2.8万亿参数开源模型亮相,全球综合智能第三¶
深度分析¶
Kimi K3是月之暗面(Moonshot AI)于2026年7月发布的旗舰开源模型,参数量达到2.8万亿,是目前公开的所有开源模型中规模最大的一个,综合智能水平仅次于Claude Fable 5和GPT-5.6 Sol,位列全球第三。模型权重计划于7月27日前全部开源开放。
K3的核心架构基于Kimi Delta Attention(KDA)混合线性注意力机制,同时引入了Attention Residuals(注意力残差)结构。这一架构设计源于此前杨植麟在英伟达GTC大会上阐述的三个扩展维度方法论:token效率、长上下文、智能体数量。KDA通过细粒度对角矩阵衰减因子替代传统标量衰减,让模型在长上下文中能有选择地保留或遗忘信息。
在混合专家(MoE)部分,K3借助Stable LatentMoE框架,在896个专家中仅激活16个,实现了极高的稀疏效率。相比上一代K2,K3将算力转化为能力的效率提升了约2.5倍。这一提升得益于KDA和AttnRes两项架构改动带来的信息流动优化,以及训练方法和数据配方的全面改进。
Kimi K3原生支持视觉理解,上下文窗口达到100万token。在软件工程任务中,K3能在很少人工干预的情况下理解大型代码库、操作终端、协调多个工具调用,并在尝试失败后自主调整方案。在结合视觉理解与空间推理的复杂编程任务上(如游戏开发、前端工程、CAD设计),K3的表现尤为突出——它能根据截图、日志和运行时状态判断下一步操作。
在知识工作评测方面,K3在GDPval-AA v2榜单上获得1687分,仅次于Claude Fable 5 Max和GPT-5.6 Sol Max,超过了Opus 4.8 Max。在AA-Briefcase榜单上,K3以1527分位列第二,仅落后于Fable 5 Max,超过了GPT-5.6 Sol Max的1495分。得益于百万token上下文窗口,K3在单智能体设置下的BrowseComp评测中获得了91.2分,无需任何上下文压缩或额外管理即达到当前最好水平。
K3的技术路线继承了此前Kimi K2 5 Architecture Innovation Moonshot 2026的架构创新,并在训练规模上实现了量级跃升。其底层技术还包括Kimi Attention Residuals Prenorm Dilution Block Attnres注意力残差结构,以及Muon优化器的工程化应用。Kimi K3也是Kimi K3 2.8T Open Source Model 2026议题中规划的关键里程碑。
→ 原文存档