英伟达发布开源大模型Nemotron 3 Super›

Kimi K3 开放权重与技术报告:2.8T MoE、原生视觉、百万上下文,还顺手开源了半个训练栈

Kimi K3 · Moonshot · 开源模型 · MoE阅读时间:发表时间:2026.07.28
Kimi K3 开放权重与技术报告:2.8T MoE、原生视觉、百万上下文,还顺手开源了半个训练栈

Kimi K3 开放权重与技术报告:2.8T MoE、原生视觉,还顺手开源了半个训练栈

本站为独立第三方技术服务平台,提供多模型 API 聚合接入服务,与 Anthropic、OpenAI、Google 等模型提供商无任何关联、授权或合作关系。

Moonshot 把 Kimi K3 的模型权重和技术报告一起放出来了。这是他们目前能力最强的模型:2.8 万亿参数的 MoE 架构、原生视觉理解、100 万 token 上下文窗口。

比权重更值得注意的是随之开放的另一半——高性能注意力算子、MoE 通信库,以及一套用于大规模运行 Agent 环境的基础设施。换句话说,这次开的不只是模型,而是把「怎么把这种模型训出来、跑起来」的一部分工程栈也交出来了。

相关地址(发布说明与仓库为准):

如果你还没看过 K3 首次亮相时的能力介绍,可以先看这篇:Kimi K3 发布:把「百万上下文 + 原生多模态」塞进一个开源前沿模型。

核心要点

  • 2.8T MoE + 原生视觉 + 1M 上下文:三件事集中在一个模型里,图文混排材料和仓库级代码可以一次性喂进去。
  • 架构层面的效率提升:Moonshot 的说法是「单位算力的智能密度提升约 2.5 倍」,强调这不是靠堆参数换来的,而是新架构带来的。
  • 权重开放:可下载、可自托管、可做领域微调与私有部署评估。
  • 配套工程栈同步开放:注意力算子(kernel)、MoE 通信库、Agent 环境运行基础设施。
  • 技术报告公开:架构与训练细节写在报告里,想复现或借鉴设计的团队有一手材料可读。

上述效率与能力数字来自 Moonshot 公开发布说明与技术报告,实际表现会因任务类型、上下文长度与硬件环境而异,建议以你自己的基准测试结论为准。

详细解读

1. 「2.5 倍智能密度」比「2.8T 参数」更值得看

参数量已经不太能说明问题了——大家都会堆。这次 Moonshot 特意强调的是每单位算力换到的能力,说白了就是:同样的推理成本,你拿到更多有效智能。

为什么开发者该关心这个?因为它直接决定了 token 单价的长期走势。架构效率上去了,服务方才有空间把价格压下来;反过来,纯靠参数量堆出来的能力,成本迟早会转嫁到调用侧。这也是评估一个新模型时容易被忽略的一维:不只看它能做什么,还要看它做同一件事要花多少。

2. 原生视觉,不是外挂一个 OCR

「原生视觉理解」意味着图片、图表、界面截图和文本走的是同一条通道,而不是先用视觉模型转成文字描述、再交给语言模型。对做前端还原、文档解析、表格抽取、UI 自动化这类活的团队,链路少一层,误差累积也少一层。

配合 100 万 token 上下文,比较现实的用法是:把设计稿、需求文档和现有代码一起塞进去,让模型在完整语境里改,而不是靠你分段喂、它分段猜。

3. 开源工程栈:这次的隐藏主线

三件东西各有各的意义:

  • 高性能注意力算子:长上下文的成本几乎都压在注意力上。算子开放意味着做推理优化的团队可以直接借鉴甚至复用,而不是从论文重写一遍。
  • MoE 通信库:MoE 的难点在于 expert 之间的通信开销,这块工程量大、坑多,属于典型的「有人开源就省几个月」的部分。
  • Agent 环境基础设施:用来大规模跑 Agent 环境。这个方向暗示了 K3 的训练重心——长程、多步、需要真实环境反馈的任务,而不只是问答。

对多数应用团队来说,这些东西不会直接进你的业务代码,但它抬高了整个生态的底线:底层工程越标准化,各家模型服务的迭代速度和成本结构都会跟着变。

4. 权重开放不等于「你该自己跑」

2.8T 参数的自托管门槛不低——显存、互联带宽、运维复杂度都是实打实的成本。权重开放的真实价值更多在于:可选性。你可以评估私有部署、做领域微调、在数据不出域的场景里走自建路线;但日常验证想法、跑生产流量,绝大多数团队仍然是 API 更划算。

比较稳的节奏是:先用 API 把场景跑通、把效果量化,确认这个模型对你的业务真有增量,再讨论要不要落到自己机器上。

对开发者意味着什么

  • 长上下文任务的性价比在改善。架构效率提升 + 注意力算子优化,共同指向一件事:仓库级理解、长文档处理这类以前「能做但贵」的场景,正在变得可接受。
  • 多模态省一层链路。图文一起进模型,少维护一个视觉服务,少一层格式转换。
  • 别把架构绑死在一个模型上。K3 强在长上下文、原生视觉与长程 Agent;但快速问答、结构化抽取、成本敏感的批量任务,往往别的模型更合适。真正影响工程效率的不是「选对了哪个模型」,而是能不能随时换。

在 Code0 上如何使用

Code0 是一个多模型聚合 API 网关——一个 Key 接入 300+ 主流大模型(Claude、GPT、Gemini、DeepSeek、Kimi 等),兼容 OpenAI SDK,接入时基本零改造。

新模型与新版本需要经过接入与测试,Kimi K3 当前是否可调用、对应的 Model ID,请以 console.code0.ai 控制台的模型列表为准。上架后调用方式和你现在用的其它模型完全一致——只动一个 model 字段:

from openai import OpenAI

client = OpenAI(
    base_url="https://hk.code0.ai/v1",
    api_key="sk-你的Key",  # 在 console.code0.ai 获取
)

resp = client.chat.completions.create(
    model="kimi-k3",  # 以控制台上架的实际 Model ID 为准
    messages=[{"role": "user", "content": "读完这个仓库,列出可以先动手的三处重构"}],
)
print(resp.choices[0].message.content)

想拿同一段业务 prompt 横向对比几个模型?把 model 换成 claude-opus-4-8 / gpt-5.4 / gemini-3-pro / deepseek-v3 就行,其它代码原样不动:

for m in ["kimi-k3", "claude-opus-4-8", "gpt-5.4", "gemini-3-pro"]:
    resp = client.chat.completions.create(
        model=m,  # 可用模型以控制台列表为准
        messages=[{"role": "user", "content": "把这份需求文档拆成可执行的任务清单"}],
    )
    print(m, "→", resp.choices[0].message.content[:200])

一个 Key、一套代码、一份对比结果——这比在四个厂商各注册一遍、各写一套 SDK 要省事得多。价格与可用模型均以控制台为准,按量即用、失败不计费。

总结

Kimi K3 这次放出权重和技术报告,加上注意力算子、MoE 通信库和 Agent 环境基础设施,信息量比一次常规的模型发布大不少:既给了能力,也给了一部分「怎么做出来的」。

对应用开发者,最实用的结论还是那句:把模型选择做成一个可以随时改的参数。前沿模型的排位每隔几周就会变一次,能低成本地跑对比、随时切过去,比赌对某一家更有价值。想第一时间试到新上架的模型,关注控制台通知即可。