月之暗面发布Kimi K3：2.8万亿参数开源模型冲击全球AI格局

7月16日，中国AI公司月之暗面（Moonshot AI）发布了Kimi K3——一个拥有2.8万亿参数的稀疏混合专家（MoE）模型，配备100万token上下文窗口和原生视觉理解能力。这是全球首个达到3T级别的开源权重模型，规模是DeepSeek v4 Pro（1.6T）的近两倍。

Kimi K3基于月之暗面自研的Kimi Delta Attention混合线性注意力机制和注意力残差架构。在训练方法上，团队采用了三项关键创新：分位数均衡（Quantile Balancing）路由替代传统启发式负载均衡，确保专家利用率均匀且零死专家；Per-Head Muon优化器为每个注意力头独立应用Muon，提升训练稳定性；Sigmoid Tanh Unit激活函数专门避免稀疏激活专家的死神经元问题。每个token激活约500-600亿参数。

性能方面，Kimi K3在Artificial Analysis智能指数中排名第4，在LMArena前端代码竞技场登顶，超越了Claude Fable 5——这是最直接衡量生产编码价值的基准。在长周期知识工作评估中，K3的Elo达到1547，仅次于Claude Fable 5。每任务成本0.94美元，与GPT-5.6 Sol（1.04美元）相当，约为Opus 4.8（1.80美元）的一半。

定价为输入3美元/百万token、输出15美元/百万token，与Claude Sonnet系列持平，是中国AI公司有史以来最贵的模型。开源权重预计7月27日发布。

K3的发布时机极为敏感——几周前美国政府刚因网络安全问题强制Anthropic暂时撤回Fable和Mythos模型。K3的出现进一步证明中国AI能力正在快速缩小与美国的差距，颠覆了西方长期以来的假设。