2.8万亿,开源模型的天花板又捅破了
7月17号凌晨,月之暗面把Kimi K3放出来了。
2.8万亿参数,MoE架构,每token激活16个专家——全球第一个总参数跨过2万亿门槛的开源模型。在这个意义上,它确实是个节点。
先说结论:综合智能水平,官方测评里仅次于Claude Fable 5和GPT-5.6 Sol。换句话说,开源阵营第一次摸到了闭源前沿的屁股。
不只是堆参数
这次月之暗面没走"暴力加量"的老路。K3用了两套自研架构 trick:
- Kimi Delta Attention(KDA):让信息在超长序列里流得更顺
- Attention Residuals(AttnRes):跨层信息残差,模型越深越稳
- Stable LatentMoE:896个专家里挑16个,scaling效率比上一代K2提升约2.5倍
翻译成人话:参数堆上去了,但推理成本没等比涨。这才是开源能跟闭源掰手腕的关键——你要是又大又贵,开源的意义就打折。
编程基准能打
放几个硬数字:
- DeepSWE:67.5%
- Program Bench:77.8%
- SWE Marathon:42.0%
软件工程场景是K3的主场。它能读源代码、看渲染结果、读运行日志、根据测试反馈判断下一步改哪——不是那种只会补全的copilot,更像一个能接活的工程师。
最炸的demo:让K3在48小时里自主设计了一颗45nm工艺的芯片,从搭建到优化到验证,全程用开源EDA工具自己跑。顺手还从零写了个GPU编译器MiniTriton,性能对标Triton和torch.compile。
价格和开放节奏
API定价(每百万token):
- 缓存命中:$0.30
- 缓存未命中输入:$3.00
- 输出:$15.00
$15的输出价在开源阵营里不算便宜——以前国产开源主打的就是白菜价。这次的姿态变了:不是靠便宜抢市场,是靠能力定档。完整权重7月27号开放下载。
背后那家公司
月之暗面今年已经融了6轮,最新投前估值315亿美元,年度经常性收入突破3亿美元,其中API收入占七成以上。
有个说法挺到位:这是经典的"commoditize your complement"——把模型智能往零成本方向卷,靠下面的基础设施挣钱。中国这几家开源实验室,节奏越来越快。
冷静一下
几个该提醒的:
- 2.8万亿是总参数,激活的是410亿级别——别拿总参数当推理成本
- 官方测评是官方的,独立第三方跑分(比如Artificial Analysis)还得等权重真正放出来
- 3亿美元ARR里大头是API,说明开发者真在用,但企业级落地案例还不多
但总的来说,开源模型第一次把规模和效率同时拉到这个位置。7月27号权重落地那天,才是真正的检验。
