← 返回 Siami 首頁

Kimi K3 正式登陸 HuggingFace:Moonshot AI 把 2.8 兆參數的開源前沿旗艦放了出來

▲ 343 💬 146
Kimi K3 正式登陸 HuggingFace:Moonshot AI 把 2.8 兆參數的開源前沿旗艦放了出來

編按:本文綜合整理自 Moonshot AI 官方部落格、HuggingFace Kimi-K3 頁面、Hacker News 討論串(nateb2022 投稿)、Nathan Lambert Interconnects 分析 與 Northflank 技術評測,並加入 Siami 編輯部觀點與分析。

Moonshot AI 把 2.8 兆參數的 Kimi K3 正式放上 HuggingFace——這是開源模型史上第一次衝到 3T 等級。模型頁面從 7 月 27 日起進入釋出窗口,截至發稿時已有 2,470 人按下「等待釋出」通知,HN 討論串在一天內衝到 343 分、146 則留言。雖然整體效能仍略遜於 Claude Fable 5 與 GPT-5.6 Sol,但已經把其他開源對手遠遠甩開。

規格與技術重點

Kimi K3 是 Moonshot AI 的第三代旗艦,採用 Sparse Mixture-of-Experts 架構,總參數 2.8 兆、推理時啟動 16/896 個專家,context window 拉到 1 百萬 token,並原生支援影像理解。從架構面看,這是 Moonshot 把 Kimi Delta Attention(KDA)與 Attention Residuals(AttnRes)兩項自研設計第一次推向 3T 等級——前者解決長序列注意力效率、後者把深度資訊檢索做得更細緻。

規格Kimi K3
開發者Moonshot AI
架構Sparse MoE(KDA + AttnRes)
總參數2.8 兆
啟動專家16 / 896
Context window1,000,000 token
權重量化MXFP4 weights + MXFP8 activations
API 輸入(cache miss)$3 / MTok
API 輸入(cache hit)$0.30 / MTok
API 輸出$15 / MTok

模型仍以 max reasoning effort 為預設(之後會補上 low / high),quantization-aware training 從 SFT 階段就開始做,最終權重採 MXFP4 + MXFP8,目標是讓 64 顆加速器以上的 supernode 配置能順跑。Moonshot 也把 KDA 的 vLLM 實作(包含 prefill caching)回饋給開源社群,會跟權重同步釋出。

為什麼這件事重要

這是中國開源模型連續第九個月站在「參數上限」的位置。Kimi K3 不是單純把模型做大——Moonshot 證明了他們能在 比 Anthropic / OpenAI 少一個數量級算力的前提下 做出 frontier-level 模型。

Nathan Lambert 在 Interconnects 的分析直接點名:這波釋出讓「中國 AI 靠蒸餾偷 IP」的說法站不住腳。Moonshot 在 Vals AI 排第二、Artificial Analysis Intelligence Index 排第三(只輸 Fable 5 與 GPT-5.6 Sol Max)、Frontend Code Arena 直接拿下第一名。若 K3 確實有蒸餾閉源模型的成分,「程度也相對有限」——其餘都是 Moonshot 自己做出來的。

對企業端來說,最直接的訊號是價格戰。GLM 5.2 自 6 月上線以來,第三方託管價已被砍 45%,趨勢還沒停。K3 進場只會讓局面更亂——Moonshot 自家 API 的 cache-hit 輸入只要 $0.30/MTok,比 Claude Fable 5 便宜約 70%,但同時具備 frontier-level 推理能力。HN 留言 gorgmah 直接說:「實質上 AI 正在變成 commodity,這比贏家通吃好太多了。」

對開發者來說,自託管是真正的門檻——1.4 TB 原始權重加上分散式專家架構,單張 GPU 跑不動,家用 homelab 也別想。Moonshot 自己建議 64 顆加速器以上的 supernode,這個硬體門檻等於把 K3 的「開源」本質跟「本地部署」拉開了距離——能自架的依然只有 hyperscaler 級別的組織。

數據解讀

benchmark 上的 K3 並非無敵。Medium 整理的 8 項對比中,Claude Fable 5 贏 5、K3 贏 3;Data Science Dojo 用 14 項基準算,Fable 5 贏 8 項、含 SWE-bench 上 5 個百分點的領先。Bleap 的 Intelligence Index 評分:Fable 5 = 60、K3 = 57、Opus 4.8 = 56。也就是說 K3 是 open-weight 類別的絕對王者,但對上頂級閉源模型仍有 1-5% 的差距。

但 K3 贏的不是單一指標,是成本結構。Artificial Analysis 的「cost per task」算下來:K3 約 $0.94、GPT-5.6 Sol Max 約 $1.04、Fable 5 約 $1.40。要的是「能完成任務、token 價格便宜、可自部署」——這條軸線上,K3 是目前唯一的選擇。

資安面則有疑慮。UK AISI / CAISI 的初步評估指出:K3 在 ExploitBench 上未能取得任意程式碼執行(ACE)的 exploit,也就是說雖然它的 cyber benchmark 數字亮眼,但實際攻擊鏈完成度仍不及最頂級的閉源模型。這跟 Moonshot 自己揭露的「能完成 Last Ones cyber range 10 次中 1 次」是一致的——K3 是個 frontier-level 模型,但對紅隊場景還不到頂標。

編按:Moonshot 在公告裡明確寫「K3 整體效能仍落後 Claude Fable 5 與 GPT-5.6 Sol」——這句話不是客氣,是 frontier 級模型之間的真實差距。把它當 Fable 5 替代品可以,但別預期會贏。

何時可以實際取得

依照官方時程,7 月 27 日當天權重就會放上 HuggingFace,目前頁面是 countdown 狀態(截稿時還剩約 4 小時)。Moonshot 也還沒公佈正式 license——這意味著商業使用條款、衍生模型授權、再分發限制都要等權重釋出後才會明朗。在那之前,K3 仍只是「API 可用、權重即將開源」的狀態,稱它為「完全開源」略嫌太早。

對於想先試用的人,目前可走四個通路:kimi.com 對話介面、Kimi Work 桌面代理(v3.1.0+)、Kimi Code CLI(/model 切換)、以及 Kimi API(OpenAI 相容)。Kimi API 自稱靠 Mooncake 的 disaggregated inference 架構,coding 工作負載可達 90% 以上的 cache hit rate,這也是 K3 能把 cache-hit 壓到 $0.30/MTok 的底氣。


參考來源

網友熱門留言 (5)

#1 NitpickLawyer 0
這次最值得關注的是 3T 等級模型的託管成本。MXFP4 量化後大概需要 1.5TB VRAM,剛好踩在 8 張 B200 的極限,但實際生產要 16 張以上才能吃下 context 跟吞吐。第三方供應商的報價會讓我們第一次知道『3T 模型到底燒多少錢』。
#2 KronisLV 0
現在個人玩家的硬體根本跟不上 LLM 節奏——unified memory 上跑 5-10 tok/s、data center 卡又動輒幾百 GB VRAM 吃一千瓦電力。沒有人做 180W-250W TDP、128-256GB VRAM 的 prosumer GPU,不然兩張串聯 NVLink 還能在家裡跑。
#3 2001zhaozhao 0
我就想問——這個模型被社群『去審查』要多久?然後壞事就要發生了。
#4 gorgmah 0
GLM 5.2 自從 6 月 16 日上線後,價格已經被競爭壓下約 45%,下滑趨勢看起來還沒結束(我持續追蹤,新供應商一直殺價,應該還沒穩定)。
#5 InsideOutSanta 0
第一次嘗試 Kimi K3 就找到一個 Fable 5 試了好幾次都定位不到的 bug。