編按:本文綜合整理自 Microsoft Command Line 官方部落格、Stocktwits 市場報導、Hacker News 討論串 及 The New Stack 分析,並加入 Siami 編輯部觀點與分析。
決策模型這個新品類終於成形了
微軟正式公開 Microsoft-Decision-1 公開預覽,這是一個專門為「做決定」設計的模型,而不是「寫一段話」。
跟一般 LLM 不同,decision model 不會用自迴歸的方式逐字生成文字,它只負責一件事:拿到一組預先定義好的選項,回傳每個選項的校準機率分數。是的/否、單選、評分、rubric-based 評分 agent 動作——全部可以透過同一個結構化 API 呼叫完成。
微軟在內部 36 個基準測試(涵蓋近 15 萬題)裡拿下第一名,更關鍵的是延遲:P50 比 GPT-6 Sol 快 35 倍,比第二名 H2O-Lightning-4B v1.1 快 2.5 倍。
怎麼煉成的:Qwen3.5-9B 後訓練
微軟並沒有自己從零煉一個 decision model,而是用 Qwen3.5-9B 做後訓練。微軟表示,未來還會把它 rebase 到 Microsoft AI(MAI)自家的模型,甚至 OpenAI 的模型。
換句話說,微軟採用了「Qwen 當骨架、自己的資料集後訓練」的策略,這跟 Cloudflare 的 Clef、Strands decider 最近的發表走的是同一條路。
一手資料:Hacker News 討論串 與 The New Stack 對 decision model API 標準的報導
五個關鍵設計取捨
微軟在官方文章列出五個他們特別優化的面向:
- 延遲:每多一個決策多 100ms,20 步串接就多 2 秒。P50 35× faster than GPT-6 Sol 直接回應這個痛點。
- 泛化:同樣的輸入改寫、改敘述、調換選項順序後,模型必須給出一致結果。微軟用八種擾動測,Decision-1 平均只翻盤 1.3%;當選項敘述被改寫或順序倒過來時,零次翻盤。
- 機率校準:機率本身就是 API 的一部分,而不只是排名依據。一個 90% 的預測,實際命中率大約就是九成。
- 安全:在 5,250 個跨 11 個基準的請求(含越獄、prompt injection、有害內容)裡,模型成功擋下有害請求,又能保住實用性。
- 不會見異思遷:當選項的措辭被改寫、順序被洗牌,模型不該改答案。
內部實戰:XBOX、Copilot、Discovery
微軟不是空談,這個模型已經被內部多個團隊拿來用:
- XBOX Research:用 Decision-1 處理超過 1 萬則來自 survey、Steam、X 的遊戲回饋,做主題分類。比 GPT-6 Sol 快 14 倍、便宜 200 倍,品質還是有競爭力。
- Copilot 團隊:拿來評分 chat 與 agentic 回應品質,跟 GPT5.6 Luna 有得拚,但快 100 倍。
- on-call 工程師:在事件現場從 log、ticket、call、message 撈出相關知識,決策速度勝過 LLM。
- Microsoft Discovery:做「自適應重新計畫」,Decision-1 評分一致性比 LLM-based 評分好 46 倍、速度快 3 倍,最後整個 replanning 流程快 4 倍。
定價:把 agent 的呼叫成本壓到極低
微軟公佈的價格非常激進:
- 輸入 token:每百萬 0.042 美元
- 輸出 token:免費
對 agentic 應用來說,每次決策都會回傳 structured output(JSON-ish),輸出其實很短,廠商直接送你免費,意圖非常明顯:把微軟雲端變成「agent 的判斷中樞」,靠 call 量賺錢。
🚨 為什麼這件事重要
Decision model 不是 LLM 的附屬功能,它是一個全新的 AI 模型類別——用結構化、低延遲、可校準的機率分數來輔助 agent 做千百個小判斷,而 LLM 退到「規劃、寫作、呼叫工具」的主位置。
過去半年,AWS、Upstage、Ollama、微軟、Cloudflare 全都往這個方向靠攏,連 OpenAI 的 Jev 系列(基於 GPT Luna)也是同樣賽道。一個事實是:決策型工作負載是 agentic AI 真正會消耗的 90% 算力,而 LLM 用全部 context window 做這件事既貴又慢。
微軟這次選 Qwen3.5-9B 當骨架,再用自己的資料後訓練,本質上是「拿最被驗證過的開源權重模型,做最有商業價值的 agent 微決策」。這是一場針對 OpenAI、Anthropic 的成本對決——如果 GPT-6 Sol 跑一輪代理要花 5 美分,Decision-1 只要不到 0.001 美元,整個 agentic 應用的經濟模型會被重寫。
🚨 數據解讀 / 質疑
但這個發表有兩個值得質疑的地方:
-
基準選擇的偏誤。微軟只跟 GPT-6 Sol 比速度,但沒跟 GPT Terra、Luna、甚至 Jev 比。在決策模型這個已經捲起來的賽道,「打贏 GPT-6 Sol」其實是拿最高階的 LLM 跟一個 9B 等級的模型比——這不是公平的對決。HN 上 HarHarVeryFunny 直接點出:「微軟故意挑了一個最貴、最大的對手來比,這在產業裡已經很久沒見過了。」
-
內部基準 vs 第三方基準。微軟宣稱「36 個基準、15 萬題」,但這些基準是「kept blind from training」也就是從訓練集拿出來的——這跟真正獨立的第三方評測(LMSys、HELM)有差距。Topfi 在 HN 上做了自家測試,得出更接近現實的數字:「比 Jev 便宜 0.72 倍,但延遲更高(283ms vs 369ms p50)。」
-
為什麼用 Qwen 9B 後訓練,而不是自家的 Phi-4-mini? giancarlostoro 在討論串點出這個矛盾:Phi 本來就是微軟為了「小且快」設計的。如果 Phi 在這個任務上也能達標,微軟卻選擇 Qwen,理由很可能是 Qwen 的社群生態、benchmark 訊號、工具鏈支援已經比 Phi 強太多。
賽道現況:決策模型進入戰國時代
Microsoft-Decision-1 不是孤例,這個月已經有三家廠商先後加入這個賽道:
- Cloudflare Clef(9 月底開源):同樣基於 Qwen 系列,主打 Workers 整合
- AWS、Upstage、Ollama:三方聯手推標準化 decision-model API
- TypeSafe AI Jev:基於 GPT Luna,被 HN 點名是「Microsoft 故意沒比的對手」
大方向很清楚:LLM 退到規劃與寫作位置,decision model 接管每一個小判斷。這對 agent 生態的影響會比任何單一模型發表都更深刻。
這篇報導的時間軸
- 2026-10-10:Microsoft-Decision-1 公開預覽發表;Hacker News 衝到 score 169、55 則回應
- 同日:Satya Nadella 在 LinkedIn 轉發、Vercel AI Gateway 立即整合
- 同日 18:00 CST(本篇發布):Siami 編輯部完成繁中編譯
網友熱門留言 (7)