編按:本文綜合整理自 Moonshot AI 官方部落格、HuggingFace Kimi-K3 頁面、Hacker News 討論串(nateb2022 投稿)、Nathan Lambert Interconnects 分析 與 Northflank 技術評測,並加入 Siami 編輯部觀點與分析。
Moonshot AI 把 2.8 兆參數的 Kimi K3 正式放上 HuggingFace——這是開源模型史上第一次衝到 3T 等級。模型頁面從 7 月 27 日起進入釋出窗口,截至發稿時已有 2,470 人按下「等待釋出」通知,HN 討論串在一天內衝到 343 分、146 則留言。雖然整體效能仍略遜於 Claude Fable 5 與 GPT-5.6 Sol,但已經把其他開源對手遠遠甩開。
規格與技術重點
Kimi K3 是 Moonshot AI 的第三代旗艦,採用 Sparse Mixture-of-Experts 架構,總參數 2.8 兆、推理時啟動 16/896 個專家,context window 拉到 1 百萬 token,並原生支援影像理解。從架構面看,這是 Moonshot 把 Kimi Delta Attention(KDA)與 Attention Residuals(AttnRes)兩項自研設計第一次推向 3T 等級——前者解決長序列注意力效率、後者把深度資訊檢索做得更細緻。
| 規格 | Kimi K3 |
|---|---|
| 開發者 | Moonshot AI |
| 架構 | Sparse MoE(KDA + AttnRes) |
| 總參數 | 2.8 兆 |
| 啟動專家 | 16 / 896 |
| Context window | 1,000,000 token |
| 權重量化 | MXFP4 weights + MXFP8 activations |
| API 輸入(cache miss) | $3 / MTok |
| API 輸入(cache hit) | $0.30 / MTok |
| API 輸出 | $15 / MTok |
模型仍以 max reasoning effort 為預設(之後會補上 low / high),quantization-aware training 從 SFT 階段就開始做,最終權重採 MXFP4 + MXFP8,目標是讓 64 顆加速器以上的 supernode 配置能順跑。Moonshot 也把 KDA 的 vLLM 實作(包含 prefill caching)回饋給開源社群,會跟權重同步釋出。
為什麼這件事重要
這是中國開源模型連續第九個月站在「參數上限」的位置。Kimi K3 不是單純把模型做大——Moonshot 證明了他們能在 比 Anthropic / OpenAI 少一個數量級算力的前提下 做出 frontier-level 模型。
Nathan Lambert 在 Interconnects 的分析直接點名:這波釋出讓「中國 AI 靠蒸餾偷 IP」的說法站不住腳。Moonshot 在 Vals AI 排第二、Artificial Analysis Intelligence Index 排第三(只輸 Fable 5 與 GPT-5.6 Sol Max)、Frontend Code Arena 直接拿下第一名。若 K3 確實有蒸餾閉源模型的成分,「程度也相對有限」——其餘都是 Moonshot 自己做出來的。
對企業端來說,最直接的訊號是價格戰。GLM 5.2 自 6 月上線以來,第三方託管價已被砍 45%,趨勢還沒停。K3 進場只會讓局面更亂——Moonshot 自家 API 的 cache-hit 輸入只要 $0.30/MTok,比 Claude Fable 5 便宜約 70%,但同時具備 frontier-level 推理能力。HN 留言 gorgmah 直接說:「實質上 AI 正在變成 commodity,這比贏家通吃好太多了。」
對開發者來說,自託管是真正的門檻——1.4 TB 原始權重加上分散式專家架構,單張 GPU 跑不動,家用 homelab 也別想。Moonshot 自己建議 64 顆加速器以上的 supernode,這個硬體門檻等於把 K3 的「開源」本質跟「本地部署」拉開了距離——能自架的依然只有 hyperscaler 級別的組織。
數據解讀
benchmark 上的 K3 並非無敵。Medium 整理的 8 項對比中,Claude Fable 5 贏 5、K3 贏 3;Data Science Dojo 用 14 項基準算,Fable 5 贏 8 項、含 SWE-bench 上 5 個百分點的領先。Bleap 的 Intelligence Index 評分:Fable 5 = 60、K3 = 57、Opus 4.8 = 56。也就是說 K3 是 open-weight 類別的絕對王者,但對上頂級閉源模型仍有 1-5% 的差距。
但 K3 贏的不是單一指標,是成本結構。Artificial Analysis 的「cost per task」算下來:K3 約 $0.94、GPT-5.6 Sol Max 約 $1.04、Fable 5 約 $1.40。要的是「能完成任務、token 價格便宜、可自部署」——這條軸線上,K3 是目前唯一的選擇。
資安面則有疑慮。UK AISI / CAISI 的初步評估指出:K3 在 ExploitBench 上未能取得任意程式碼執行(ACE)的 exploit,也就是說雖然它的 cyber benchmark 數字亮眼,但實際攻擊鏈完成度仍不及最頂級的閉源模型。這跟 Moonshot 自己揭露的「能完成 Last Ones cyber range 10 次中 1 次」是一致的——K3 是個 frontier-level 模型,但對紅隊場景還不到頂標。
編按:Moonshot 在公告裡明確寫「K3 整體效能仍落後 Claude Fable 5 與 GPT-5.6 Sol」——這句話不是客氣,是 frontier 級模型之間的真實差距。把它當 Fable 5 替代品可以,但別預期會贏。
何時可以實際取得
依照官方時程,7 月 27 日當天權重就會放上 HuggingFace,目前頁面是 countdown 狀態(截稿時還剩約 4 小時)。Moonshot 也還沒公佈正式 license——這意味著商業使用條款、衍生模型授權、再分發限制都要等權重釋出後才會明朗。在那之前,K3 仍只是「API 可用、權重即將開源」的狀態,稱它為「完全開源」略嫌太早。
對於想先試用的人,目前可走四個通路:kimi.com 對話介面、Kimi Work 桌面代理(v3.1.0+)、Kimi Code CLI(/model 切換)、以及 Kimi API(OpenAI 相容)。Kimi API 自稱靠 Mooncake 的 disaggregated inference 架構,coding 工作負載可達 90% 以上的 cache hit rate,這也是 K3 能把 cache-hit 壓到 $0.30/MTok 的底氣。
參考來源
網友熱門留言 (5)