【Moonshot AI发布了迄今为止规模最大的开源人工智能模型，中国正努力绕过美国的计算限制】

（汤姆硬件）总部位于北京的Moonshot AI发布了Kimi K3，这是一个参数量高达2.8万亿的模型。该公司在其技术博客中称其为全球首个开放的3T级系统，也是迄今为止最大的开放权重AI模型。Moonshot表示，K3的整体性能仍然落后于Anthropic的Claude Fable 5和OpenAI的GPT 5.6 Sol，但在编码和智能体基准测试中，它超越了该公司评估套件中的所有其他模型，包括Claude Opus 4.8和GPT 5.5 。该模型拥有100万个令牌的上下文窗口、原生视觉，并且每个令牌仅激活其896个专家中的16个，约占专家池的1.8%。完整的权重将于7月27日公布。

在 Arena 的前端代码评估中，K3 以 1679 分的成绩位列第一，领先于 Fable 5（盲测）。其 API 定价为：缓存命中输入令牌每百万个 0.30 美元，缓存未命中每百万个 3 美元，输出令牌每百万个 15 美元。Kimi K2 于一年前发布，定价为每百万个输入令牌 0.60 美元，因此 K3 的未缓存输入成本是其五倍。

Moonshot 声称其扩展效率比 Kimi K2 提升了约 2.5 倍，这归功于两项架构改进：Kimi Delta Attention（一种混合线性注意力机制）和 Attention Residuals（改变了信息在层间传递的方式）。量化感知训练从监督式微调阶段开始，使用 MXFP4 权重和 MXFP8 激活值，Moonshot 表示选择这种组合是为了实现广泛的硬件兼容性。美国银行分析师 Alex Liu 等人在一份CNBC 引用的报告中指出，K3 表明，即使计算资源有限，大规模预训练加上架构改进仍然可以为中国旗舰模型带来突破性的性能提升。

Moonshot 的内核优化基准测试运行在英伟达 H200 显卡上，以及博客中仅提及的“来自其他供应商的通用图形处理器 (GPGPU)”上，但该公司并未透露具体供应商名称。MiniTriton 是一个类似 Triton 的编译器，由 K3 从零开始构建，并与运行在英伟达 L20 显卡上的 Triton 进行了对比测试。L20 是一款基于 Ada 语言的精简版显卡，根据美国出口管制条例销往中国。Moonshot 建议在拥有 64 个或更多加速器的超级节点上运行 K3，从而将专家级并行流量限制在一个高带宽域内。博客并未说明 H200 硬件的具体位置；今年 1 月，美国国会通过了一项法案，旨在堵住离岸云租赁漏洞，该漏洞曾允许中国企业远程访问受限的加速器。

在一个案例研究中，K3 利用开源 EDA 工具和 Nangate 45nm 库，在 48 小时内自主运行，为其基于自身架构的纳米模型设计了一个模拟推理芯片。该设计在 4mm² 的面积内实现了 100MHz 的时序闭环，集成了 146 万个标准单元和一个 INT4 MAC 阵列，并能持续进行每秒超过 8700 个令牌的模拟解码。

目前，所有已发布的 K3 数据都是 Moonshot 报告或通过 API 访问得出的声明，在 7 月 27 日权重公开之前无法验证。Anthropic在 2 月份指控 Moonshot使用 340 万个 Claude 交易数据通过蒸馏来训练其模型，而 K3 现在的基准测试结果与该投诉中提到的模型相差无几。