Thinking Machines 開第一槍：975B 參數開放權重模型 Inkling，主打『可客製化』勝過『拚榜單』

編按：本文綜合整理自 Thinking Machines 官方部落格、Inkling Model Card、Artificial Analysis 開源模型評比 與 Hacker News 討論串，並加入 Siami 編輯部觀點與分析。

Mira Murati（前 OpenAI CTO）創辦的 Thinking Machines Lab 在 7 月 15 日正式釋出第一個模型 Inkling：975B 總參數、41B active 的 Mixture-of-Experts Transformer，預訓練資料高達 45 兆 tokens（文字、圖像、音訊、影片），支援最長 1M token 上下文。同時公開的還有 276B / 12B active 的 Inkling-Small 預覽版。官方完整權重（含 NVFP4 量化版）已上架 Hugging Face，並透過 TogetherAI、Fireworks、Modal、Databricks、Baseten 提供 API 服務。

這不是一場衝榜單的發表會。官方在公告裡就把話說得很坦白：「Inkling 並非目前最強的整體模型，無論開源或閉源。」 該公司想要搶的是另一塊市場——一個可以被全世界拿來「調整成自己形狀」的開放權重基底。

模型主規格：MoE、45T tokens、可調思考力道

Inkling 採用每層 256 個 routed expert + 2 個 shared expert 的 MoE 架構（沿用 DeepSeek-V3 設計），每個 token 同時啟動 6 個 routed expert，並使用 sigmoid 路由器搭配「auxiliary-loss-free load-balancing bias」。注意力層交錯使用 sliding-window 與 global attention（5:1 比例），同時放棄現今主流的 Rotary Position Embedding (RoPE)，改採 relative positional embedding 並在 attention 殘差分支上加 short convolution，官方表示在長序列外推效果明顯較佳。

訓練資料橫跨文字、影像、音訊、影片共 45 兆 tokens。優化器採混合策略：Muon 處理大矩陣權重、Adam 處理其他參數，並把 weight decay 強度耦合到學習率的平方。post-training 部分先用 Kimi K2.5 等開源權重模型生成的合成資料做 SFT bootstrap，再以大量合成的 RL 環境做後訓練。

最特別的功能是 「controllable thinking effort」——同一個模型可以透過調整 system message 與 per-token 成本，讓它在 Terminal Bench 2.1、HLE、IFBench 等基準上拉出一條 effort / performance 曲線。官方展示 Inkling 在 Terminal Bench 達到與 Nemotron 3 Ultra 同樣分數時，只花三分之一 token 數。

多模態、音訊、與「自我微調」展示

Inkling 並非純文字 LLM。它原生處理文字、圖像、音訊三種模態，影像以 40×40 pixel patch 透過四層 hMLP 編碼（受 Hugo Touvron 2022 年 vision transformer 啟發），音訊則採 dMel 頻譜圖輸入，再與文字 token 共同處理。

Inkling 也支援互動模型（interaction model）所需的即時語音與視覺協作。在音訊基準 VoiceBench、MMAU 上，Inkling 達到開源權重模型的前段班水準（VoiceBench 91.4%；MMAU 77.2%）；視覺基準 MMMU Pro 73.5%，雖然仍落後 Claude Fable 5（84.2%）與 GPT 5.6 Sol（83.0%）一截，但對一個開放權重模型來說已是強勢數字。

官方最「戲劇化」的展示是叫 Inkling 自己寫自己的 fine-tuning 程式、執行並評估結果——這個 OpenCode 對談紀錄在發表會網頁上以七段故事播放呈現，用來展示 Inkling 可作為 agent 自我改進的基底。

為什麼這件事重要

這不是又一個「SOTA 對決」。Thinking Machines 把 Inkling 定位為 「可被全世界客製的權重基底」，這有三層意義：

1. 商業邏輯的差異化：Mira Murati 的策略不是去做最強的模型對決 GPT/Claude，而是搶占「私有化部署＋領域微調」這個企業 AI 最大宗的市場。Tinker 平台在前幾個月已經吸了一批客戶，Inkling 是第一個原生綁定的旗艦模型。

2. 「open weights ≠ open source」的誠實定位：Thinking Machines 從一開始就在公告內坦承 Inkling 是「open weights」而非「open source」——訓練資料、訓練食譜、scaffolding 並未公開，這與 Llama、Qwen 路線不同，對企業資安敏感場域反而是優勢（不會有人 fork 整個 stack 去搞蒸餾攻擊）。

3. 可控開銷的工程路線：透過可控 thinking effort 與 Inkling-Small 提供多檔位選擇，搭配 TogetherAI、Fireworks 等多家 inference provider 的 ecosystem，避免單一雲綁定，這對企業部署成本管理是少見的「實用主義」設計。

「不是最強，但是最好客製的」——這個定位如果成立，會直接挑戰 OpenAI 與 Anthropic 的高階 API 訂閱生意。

數據解讀與質疑

先看數字：

• HLE（人類最後考試）文字版：Inkling 29.7%、Claude Fable 5（max effort）53.3%、GPT 5.6 Sol（max/xhigh）47.2%——Inkling 落後頂級閉源模型 17-23 個百分點。
• SWE-Bench Verified：Inkling 77.6%、Claude Fable 5 95.0%——Coding 是最大弱點，與 Claude 的差距將近 18 個百分點。
• Terminal Bench 2.1：Inkling 63.8%（含被污染扣 0 的解題），Claude 84.6%、GPT 89.5%。
• FORTRESS（安全基準）：Inkling Adversarial 78.0%，優於絕大多數開源權重模型，但 Claude Fable 5 達 96.0%。
• ForecastBench（預測校準）：Inkling 不開搜尋時 Brier Index 61.1 ± 0.79，與 Gemini 3.1 Pro 並列前段班。

Siami 編輯部質疑點：

• 「不是最強、但是最好客製」聽起來像藉口：官方自己寫「Inkling is not the strongest overall model available today」時，這在 Hacker News 與 Threads 引發不少批評，認為是預設立場為商業辯護。
• Terminal Bench 2.1 的「污染扣分」：官方承認一部分 Terminal Bench 解題因為 web search 找到原始題目被扣 0 分，這個調整雖然合理但也讓人質疑真實效能。
• Inkling-Small 的 SimpleQA Verified 暴跌：Inkling-Small 在 SimpleQA Verified 上只有 20.9%，相比 Inkling 的 43.9% 幾乎腰斬，這個事實性差距對輕量版的真實工作場景會是限制。

RL at scale 與「思維壓縮」現象

Inkling 訓練期間跑了超過 3000 萬次 rollout，跨兩個長周期持續訓練，reasoning 評估 reward 從 SFT 初始的 0.264 一路爬到釋出版 0.356，整條曲線 log-linear 上升。

訓練過程中觀察到一個有趣的 emergent 現象：Inkling 的 chain-of-thought 自己變得「新聞體」——句法更簡潔、刪掉冠詞和連接詞，但結論依然成立。Thinking Machines 指出這個變化沒被 reward 函式明確要求，純粹是效率壓力驅動的「副產物」。Cognition 訓練 SWE-1.7 時也觀察到類似現象。

這種 RL 引發的「思維壓縮」會是未來開源權重模型共同面對的課題——想壓低成本就要犧牲可讀性，企業部署時該如何權衡？

Inkling-Small：輕量版的意外與限制

Inkling-Small 是 276B / 12B active 的 MoE（總參數是 Inkling 的 28%、active 參數只有 29%）。在 Reasoning、agentic coding、chat 項目上，很多時候能追平甚至小贏 Inkling：

• HLE（with tools）：46.6% vs Inkling 46.0%
• GPQA Diamond：88.3% vs 87.2%（反向勝出）
• IFBench：83.4% vs 79.8%（反向勝出）
• Charxiv RQ with python：83.4% vs 82.0%

但 SimpleQA Verified（事實查核）腰斬到 20.9%、Tau 3 Banking（客服代理）只有 13.6% vs 23.7%。工作選擇需要權衡。官方對 Inkling-Small 的定位是「coding、評分其他 LLM、合成資料生成」——把文字記憶與金融客服這類需要厚重世界知識的場景留給 Inkling。

Inkling-Small 還在最終測試階段，完整權重尚未釋出，只先以 preview 提供 fine-tuning。

部署、生態系與定價

Inkling 已在 Tinker 平台上開放 fine-tuning，提供 64K 與 256K 兩種 context length 選項，前限期 50% 折扣。

推論生態系高度分散：

• API provider：TogetherAI、Fireworks、Modal、Databricks、Baseten
• 開源推論：SGLang（與 RadixArk 合作）、Miles（RadixArk）、vLLM（Inferact）、TokenSpeed（Lightseek）、llama.cpp（Unsloth）
• Transformers 整合：Hugging Face

這套生態系的多元部署支援，是 Inkling 鎖定企業私有化部署的核心價值。對於已經跑 Kubernetes / on-prem 的企業 IT 而言，能避免被單一 hyperscaler 綁死。

後續觀察重點

1. Inkling-Small 完整權重釋出時程：preview 階段的 paper trail 顯示官方還在做最後的 RL 測試，這關係到 Q3 末的開源生態是否會再多一個 12B active 等級的 MoE 對手。
2. Tinker 平台對 Q3-Q4 的 fine-tuning 收入：Inkling 50% 折扣到期後是否能撐住客戶續訂率，會是判斷「可客製化」這個商業論點是否成立的關鍵。
3. Benchmark 上的「污染辯護」如何被社群接受：Thinking Machines 主動點出 Terminal Bench 2.1 的污染問題並扣分，這在學術圈會被視為透明，但業界評論可能繼續拿「為什麼不重新跑一遍乾淨的子集」質疑。

Inkling 的釋出訊號很清楚：這個產業的下半場不是比誰跑得快，而是比誰能被全世界客製。