← 返回 Siami 首頁

Microsoft 推出決策模型 Decision-1:比 GPT-6 Sol 快 35 倍,但只在結構化任務上能打

▲ 169 💬 55
Microsoft 推出決策模型 Decision-1:比 GPT-6 Sol 快 35 倍,但只在結構化任務上能打

編按:本文綜合整理自 Microsoft Command Line 官方部落格、Stocktwits 市場報導、Hacker News 討論串 及 The New Stack 分析,並加入 Siami 編輯部觀點與分析。

決策模型這個新品類終於成形了

微軟正式公開 Microsoft-Decision-1 公開預覽,這是一個專門為「做決定」設計的模型,而不是「寫一段話」。

跟一般 LLM 不同,decision model 不會用自迴歸的方式逐字生成文字,它只負責一件事:拿到一組預先定義好的選項,回傳每個選項的校準機率分數。是的/否、單選、評分、rubric-based 評分 agent 動作——全部可以透過同一個結構化 API 呼叫完成。

微軟在內部 36 個基準測試(涵蓋近 15 萬題)裡拿下第一名,更關鍵的是延遲:P50 比 GPT-6 Sol 快 35 倍,比第二名 H2O-Lightning-4B v1.1 快 2.5 倍。

怎麼煉成的:Qwen3.5-9B 後訓練

微軟並沒有自己從零煉一個 decision model,而是用 Qwen3.5-9B 做後訓練。微軟表示,未來還會把它 rebase 到 Microsoft AI(MAI)自家的模型,甚至 OpenAI 的模型。

換句話說,微軟採用了「Qwen 當骨架、自己的資料集後訓練」的策略,這跟 Cloudflare 的 Clef、Strands decider 最近的發表走的是同一條路。

一手資料:Hacker News 討論串 與 The New Stack 對 decision model API 標準的報導

五個關鍵設計取捨

微軟在官方文章列出五個他們特別優化的面向:

  • 延遲:每多一個決策多 100ms,20 步串接就多 2 秒。P50 35× faster than GPT-6 Sol 直接回應這個痛點。
  • 泛化:同樣的輸入改寫、改敘述、調換選項順序後,模型必須給出一致結果。微軟用八種擾動測,Decision-1 平均只翻盤 1.3%;當選項敘述被改寫或順序倒過來時,零次翻盤。
  • 機率校準:機率本身就是 API 的一部分,而不只是排名依據。一個 90% 的預測,實際命中率大約就是九成。
  • 安全:在 5,250 個跨 11 個基準的請求(含越獄、prompt injection、有害內容)裡,模型成功擋下有害請求,又能保住實用性。
  • 不會見異思遷:當選項的措辭被改寫、順序被洗牌,模型不該改答案。

內部實戰:XBOX、Copilot、Discovery

微軟不是空談,這個模型已經被內部多個團隊拿來用:

  • XBOX Research:用 Decision-1 處理超過 1 萬則來自 survey、Steam、X 的遊戲回饋,做主題分類。比 GPT-6 Sol 快 14 倍、便宜 200 倍,品質還是有競爭力。
  • Copilot 團隊:拿來評分 chat 與 agentic 回應品質,跟 GPT5.6 Luna 有得拚,但快 100 倍。
  • on-call 工程師:在事件現場從 log、ticket、call、message 撈出相關知識,決策速度勝過 LLM。
  • Microsoft Discovery:做「自適應重新計畫」,Decision-1 評分一致性比 LLM-based 評分好 46 倍、速度快 3 倍,最後整個 replanning 流程快 4 倍。

定價:把 agent 的呼叫成本壓到極低

微軟公佈的價格非常激進:

  • 輸入 token:每百萬 0.042 美元
  • 輸出 token:免費

對 agentic 應用來說,每次決策都會回傳 structured output(JSON-ish),輸出其實很短,廠商直接送你免費,意圖非常明顯:把微軟雲端變成「agent 的判斷中樞」,靠 call 量賺錢。

🚨 為什麼這件事重要

Decision model 不是 LLM 的附屬功能,它是一個全新的 AI 模型類別——用結構化、低延遲、可校準的機率分數來輔助 agent 做千百個小判斷,而 LLM 退到「規劃、寫作、呼叫工具」的主位置。

過去半年,AWS、Upstage、Ollama、微軟、Cloudflare 全都往這個方向靠攏,連 OpenAI 的 Jev 系列(基於 GPT Luna)也是同樣賽道。一個事實是:決策型工作負載是 agentic AI 真正會消耗的 90% 算力,而 LLM 用全部 context window 做這件事既貴又慢。

微軟這次選 Qwen3.5-9B 當骨架,再用自己的資料後訓練,本質上是「拿最被驗證過的開源權重模型,做最有商業價值的 agent 微決策」。這是一場針對 OpenAI、Anthropic 的成本對決——如果 GPT-6 Sol 跑一輪代理要花 5 美分,Decision-1 只要不到 0.001 美元,整個 agentic 應用的經濟模型會被重寫。

🚨 數據解讀 / 質疑

但這個發表有兩個值得質疑的地方:

  1. 基準選擇的偏誤。微軟只跟 GPT-6 Sol 比速度,但沒跟 GPT Terra、Luna、甚至 Jev 比。在決策模型這個已經捲起來的賽道,「打贏 GPT-6 Sol」其實是拿最高階的 LLM 跟一個 9B 等級的模型比——這不是公平的對決。HN 上 HarHarVeryFunny 直接點出:「微軟故意挑了一個最貴、最大的對手來比,這在產業裡已經很久沒見過了。」

  2. 內部基準 vs 第三方基準。微軟宣稱「36 個基準、15 萬題」,但這些基準是「kept blind from training」也就是從訓練集拿出來的——這跟真正獨立的第三方評測(LMSys、HELM)有差距。Topfi 在 HN 上做了自家測試,得出更接近現實的數字:「比 Jev 便宜 0.72 倍,但延遲更高(283ms vs 369ms p50)。」

  3. 為什麼用 Qwen 9B 後訓練,而不是自家的 Phi-4-mini? giancarlostoro 在討論串點出這個矛盾:Phi 本來就是微軟為了「小且快」設計的。如果 Phi 在這個任務上也能達標,微軟卻選擇 Qwen,理由很可能是 Qwen 的社群生態、benchmark 訊號、工具鏈支援已經比 Phi 強太多。


賽道現況:決策模型進入戰國時代

Microsoft-Decision-1 不是孤例,這個月已經有三家廠商先後加入這個賽道:

  • Cloudflare Clef(9 月底開源):同樣基於 Qwen 系列,主打 Workers 整合
  • AWS、Upstage、Ollama:三方聯手推標準化 decision-model API
  • TypeSafe AI Jev:基於 GPT Luna,被 HN 點名是「Microsoft 故意沒比的對手」

大方向很清楚:LLM 退到規劃與寫作位置,decision model 接管每一個小判斷。這對 agent 生態的影響會比任何單一模型發表都更深刻。


這篇報導的時間軸

  • 2026-10-10:Microsoft-Decision-1 公開預覽發表;Hacker News 衝到 score 169、55 則回應
  • 同日:Satya Nadella 在 LinkedIn 轉發、Vercel AI Gateway 立即整合
  • 同日 18:00 CST(本篇發布):Siami 編輯部完成繁中編譯

網友熱門留言 (7)

#1 HarHarVeryFunny ▲ 35
看起來又是另一個價格打不過 Jev 的對手。微軟只跟 GPT Sol 比價格,沒跟 GPT Terra 或 GPT Luna 比(OpenAI 的 Jev 系列就是基於 Luna),更沒跟 Jev(Jev 的成本只有 Luna 的 4/10)比。我已經想不起來新產品發表時有多久沒被這樣忽略掉了。
#2 simonw ▲ 28
用 Qwen3.5-9B 來做後訓練,還說未來會 rebase 到 Microsoft AI(MAI)和 OpenAI。看來對中國模型的恐懼終於在消退。
#3 Topfi ▲ 22
在我的最小測試組裡,它比 Jev 便宜 0.72 倍,但延遲比較高(283ms vs 369ms p50)。整體表現非常接近。Qwen 改的模型是不錯,但要嘛價格、要嘛效能要有大幅突破,不然很難商業化。
#4 nejch ▲ 19
這跟 Cloudflare 的 Clef、Strands decider 一樣都用 Qwen 的小模型。最近這類基改 Qwen 的決策模型多到誇張,但 Qwen 真的是那種『小小的引擎也能跑得很遠』的開源權重模型,整個生態系都靠它撐起來了。
#5 mrbonner ▲ 17
我不懂為什麼要用解碼器模型來做分類器。Jev 模型可以直接給每個選項的機率分數,那才是真的統計機率。用解碼器模型做這件事,最後只是在『下一個 token 是什麼』的預測上加一層 softmax 機率,跟真正的分類模型比起來既貴又慢。
#6 chris_money202 ▲ 12
微軟走的路跟別人不一樣。我覺得他們正在大舉押注本地推論,未來 Windows 上會有原生 AI API,本地或雲端/邊緣都能跑。
#7 fredsmith219 ▲ 8
文章談的是用決策模型寫程式,但能不能幫日常生活中猶豫不決的人做決定?我認識幾個,他們很需要這種工具。