← 返回 Siami 首頁

IBM 執行長 Krishna 直言:開放權重模型效果達前沿 90%,token 成本只要 10% 到 25%,企業自架兩三個機櫃就夠

▲ 222 💬 121
IBM 執行長 Krishna 直言:開放權重模型效果達前沿 90%,token 成本只要 10% 到 25%,企業自架兩三個機櫃就夠

編按:本文綜合整理自 The Register 原文〈IBM CEO says open weight models are now irresistibly good and cheap on-prem〉、IBM 官方第三季財報新聞稿(2026 年 10 月 21 日)、Motley Fool:IBM (IBM) Q3 2026 法說會完整逐字稿、CNBC:IBM beats on top and bottom lines as CEO Krishna touts ‘Super Intelligence’ traction、Anthropic:Introducing Claude Opus 5.5 官方價目與成本說明、IBM 官方 Spyre 加速卡上市新聞稿、IBM Granite 4.2 官方模型卡、llm-d 官方網站、Hacker News 討論串(222 分、121 則回覆) 與 The Register 官方 X 貼文,並加入 Siami 編輯部觀點與分析。

2026 年 10 月 21 日美東時間下午 5 點,IBM 2026 年第三季法說會上,執行長 Arvind Krishna 被 RBC Capital Markets 分析師 Matt Swanson 追問一個題目:企業到底要怎麼在「AI 成本」與「AI 誰做主」這兩件事之間取捨?

他的回答,後來在 Hacker News 累積 222 分、121 則回覆,成為這週科技圈最值得讀的一段發言。

Krishna 給的不是模糊的「AI 很重要」,而是一個具體到可以拿去寫採購簡報的算式。

「目前,開放權重模型的 token 成本是前沿模型的 25% 到 10%。考慮到它們現在已經有 90% 的效能,這非常有吸引力。這對任何企業來說都是個簡單的問題:你要一個成本是 10%、但效果是最好模型 90% 的方案,還是要付那 10 倍的價格?」

然後他給了答案:多數企業不需要前沿模型。他點名的四類任務是——摘要一封郵件、審閱一份合約、回答一通客服電話、撰寫一封郵件。


從 70 比 20 到 70 比 50:一條被悄悄壓縮的差距

Krishna 在回答裡回溯了從 2024 年底到現在的能力差距曲線,這是整段發言最有價值、也最容易被忽略的部分。

他說,2024 年底的狀況是:「如果你跑一個評測、一個 benchmark,而且是廣泛型不是單點型的,最強的模型可能拿 70 分,開放模型可能只拿 20 或 30 分。」差距太大,沒有企業會接受。

2025 年底,差距開始縮小:「可能不再是 70 對 20 或 30,而是 70 對 50。」

而現在,他說市場上已經很樂觀地預期能收斂到「前沿模型 100、另一個模型 90」。

這三個數字擺在一起,勾勒出一條不該被輕視的曲線:兩年間,開放權重模型與最前沿模型的相對差距,從「三分之一」變成「七成」,再到「九成」。Krishna 說的是 benchmark 分數,不是行銷話術。

那麼現在的問題變成:你要怎麼做到? 企業真正卡住的地方是——「我的 kernel 工程師在哪裡?哪些人在操心底層網路?誰能確保模型被叢集在網路延遲足夠靠近的 GPU 上?誰能確保結果有被正確地快取?」

Krishna 自己給出的答案聽起來很輕:「我告訴你,除非是最精密的企業,這個差距大概還在。」接著他補上關鍵前提——硬體其實不是門檻。

「以一家普通大型企業來說,兩到三個機櫃就能開始了。這不是很大的基礎設施量,但它足以讓你跑那些開放權重模型。」


10% 成本:對照實際的市場價格

Krishna 說的「前沿模型 token 成本」,在 2026 年 10 月這個時間點,已經不是抽象的十倍價差。實際的價格軌跡是這樣的:

  1. GPT-5.6 Sol 發布時定價輸入 $5 / 輸出 $30 / 快取讀取 $0.50,之後轉為促銷價 $4 / $20 / $0.40
  2. Claude Opus 5 是 $5 / $25 / 快取讀取 $0.50;Opus 5.5 降到 $4 / $20 / 快取讀取 $0.20、快取寫入 $5。Anthropic 官方說得很直接:「Opus 5.5 的服務成本低於 Opus 5,定價反映的就是這件事」
  3. GPT-6 Sol 直接砍到 $2 / $10 / 快取讀取 $0.20,輸入輸出價直接砍半
  4. GPT-6.1 Sol 維持 $2 / $10,再把快取讀取價砍半到 $0.10
  5. Claude Fable 5.1 維持 $10 / $50,但快取讀取從 $1 降到 $0.25,快取讀取降價 75%

最後一項在成本結構上最關鍵。Anthropic 在 Opus 5.5 的上市頁裡點名了原因:快取讀取「構成 agentic 與 coding 工作成本的多數」。而一份針對 465 個 agent 撰寫 pull request 的預先註冊研究則發現,超過 85% 的模型化成本落在「上下文工作」(快取讀取與寫入)上。

Anthropic 自己也給了一個比較保守但更誠實的換算:Opus 5.5 在典型工作負載上,整體成本比 Opus 5 低 40%。這才是把單一價格變動換算回整體帳單後的實際樣貌——不是「快取價降了 75%,所以總帳單降 75%」。

在這樣的價格環境下,Krishna 說的「開放權重是前沿模型成本的 10% 到 25%」,意味著同一個工作負載,企業自架的邊際成本可能是雲端 API 的四分之一到十分之一。這已經不是「省一點」,而是足以改變架構選擇的量級。

前提是:效果差距收斂到只剩 10%。


「主權 AI」:從邊緣話題變成採購單上的條目

Krishna 在同一場法說會上,另外回答了 J.P. Morgan 分析師 Brian Essex 關於「主權 AI」的問題。他描述這條議題的升溫軌跡,用了三個時間點:

「2024 年這件事沒有太大 traction。2025 年有少數人開始注意,2026 年它才真正開始被討論。」

他解釋企業為什麼在意:即使大型公共 LLM 沒有「偷走你的資料」,你的問題模式會被隱含地學習,留下底層日誌(logs),足以顯示這套系統被用在什麼地方、以及用了哪些資料元素。

他舉了一個具體例子——一位大型銀行的執行長,跟 Krishna 的說法是:

「我們會在大型前沿 LLM 上做一些前期實驗。但對我們在銀行內部做的事情,我們需要以主權的方式運行,也就是說沒有任何人能拿走底層的資料或底層的日誌。」

這位銀行業者的說法更進一步:「我們不會讓任何人接觸我們的專有模型,但我們需要主權地運行它。」

Krishna 判斷這會成為產業的順風,受益者包含基礎設施與半導體業者,以及幫企業做安全私有部署的廠商。

值得注意的是,IBM 這套「主權敘事」有完整的產品線對應:

  • IBM Bob 於 10 月 1 日正式宣布支援 self-hosted 部署,讓受監管產業把程式碼與模型留在自己的基礎設施裡
  • llm-d(由 Red Hat、Google、IBM、CoreWeave、NVIDIA 共同發起、現由 CNCF 治理的開源推論堆疊)透過重用已處理的上下文,讓客戶在既有 GPU 上大幅降低推論成本;官方頁面標示 Google Cloud 以 llm-d Endpoint Picker 打造的 GKE Inference Gateway,在 Vertex AI 正式環境把 time-to-first-token 砍掉超過 35%
  • IBM Sovereign Core on IBM Fusion 簡化主權 AI 部署(IBM 於 10 月 22 日發布)

換句話說,Krishna 講的「兩到三個機櫃」,背後有具體的軟硬體支撐,不只是行銷詞。


數據解讀:財報很強,但股價不買單

這裡有一個必須誠實面對的矛盾。IBM 這一季的財報數字其實相當漂亮:

營收 171 億美元,年增 5%(固定匯率 6%),超出 LSEG 預估的 168.2 億美元。調整後 EPS 2.95 美元,預估 2.86 美元。淨利 21.9 億美元,每股 2.30 美元,去年同期為 17.4 億美元、1.84 美元。

分部門來看:

  • 軟體 78 億美元,年增 8%(固定匯率 9%),高於 StreetAccount 的 76.6 億美元共識;其中 Data 成長 19%、交易處理成長 9%
  • 諮詢服務 53 億美元,持平(固定匯率 2%),略低於 53.7 億共識;AI 相關業務占該部門營收約 30%、占整體訂單積壓(backlog)35%
  • 基礎設施 37 億美元,年增 4%(固定匯率 5%),高於 35.7 億共識;其中分散式基礎設施成長 31%(固定匯率 32%),混合式基礎設施成長 8%

那為什麼股價不動?CNBC 給的原因很直接:毛利率比預期差。調整後毛利率 58.5%,低於 StreetAccount 共識的 59.1%;GAAP 毛利率 56.8%,年減 50 個基點。諮詢部門毛利率從第二季的 28.9% 收窄到 27.4%。股價在財報後盤勢下跌,盤後續跌。

更長期的背景更值得注意:截至 10 月 21 日收盤,IBM 股價一年來下跌 15%,同期標普 500 指數上漲 13%。這是一個巨大的相對落差。

具體到硬體面,數字是分裂的:

IBM Z 大型主機營收年減 20%(固定匯率 -19%),但 z17 世代卻是「近二十年來 IBM Z 最強的中階上市成績」,且比上一代多賺 10 億美元。分散式基礎設施則成長 31%。

主機營收掉兩成、分散式成長三成,兩條線往相反方向走。Krishna 把這歸因於 IBM Z 的「第二季時程問題」而非需求問題,聲稱交易處理業務成長 10% 驗證了主機的策略重要性。但值得追問的是:當 CEO 同時說「AI 基礎設施需求暴增」又說「主機營收跌兩成」時,這兩件事在現金流上的關聯是什麼?

另一個被忽略的數字是 OpenShift ARR 24 億美元、成長超過 30%。IBM 已經不只是「賣硬體給想跑開放權重模型的人」——它是一套從虛擬化(累計簽下近 8 億美元合約,另有 7.5 億美元 pipeline)到 Red Hat(成長 11%、ARR 成長 30%)到 OpenShift(ARR 24 億)再到自架 AI 軟體(llm-d、IBM Bob)的完整棧。

對了,還有一則完全不相干的插曲:IBM Cloud 出現一級嚴重事故,原因是「緊急維護」,導致 90 分鐘無法配置新資源或虛擬私有雲,Classic Cloud 用戶被告知修復時間點落在週四 08:00 UTC,也就是事故至少持續 16 小時。IBM 是在公布 PHP 關鍵漏洞後幾小時才開始這項工作的。The Register 已去信詢問兩者是否相關,IBM 尚未回應。


質疑:這是發言,還是銷售?

現在來到最該誠實面對的部分。Hacker News 上最高票的質疑,來自網友 collinmcnulty:

「可以拜託大家不要再替 CEO 說的話加權了嗎?IBM 當然希望我們這麼想,如果這是真的當然很好。但 IBM 的 CEO 說這是真的,這件事的資訊量,等同於一間前沿實驗室說它不是真的:一樣是零。」

這條評論點中了要害,而且它是對的方向:IBM 是硬體與基礎設施供應商,「企業應該自架 AI」這句話,天然等於「企業應該買 IBM 的硬體」。Hacker News 網友 jains99 的吐槽更直接:「要跑這些模型的硬體,剛好就是 IBM 很樂意賣給你的東西。」

另一組來自實務面的反駁,則指向可落地性。網友 liorn 說:「這不是一次性的事。on-prem 推論需要持續監控與調校才能榨出 GPU 的最大效能,能看到 25 到 50% 的效能增益。今天這件事確實需要專職的推論工程師。」

這印證了 Krishna 自己的坦白——他不是沒講到這一層,他講得很清楚:「我的 kernel 工程師在哪裡?」只是他把這句話講成了一個商業機會(「我們會做出讓 AI 部署更容易的軟體」),而不是一個採用風險。

而網友 jacquesm 從硬體帳單的角度補了一刀:他手上那台機器有 240G VRAM 總量,「這就是它造價這麼高的原因;如果用今天的價格重新買一台,只會更貴。所以我寧可租用——他們有補貼,我沒有,而且我的使用率也沒那麼高。」

那麼這個算式該不該信?綜合正反兩面,合理的做法是這樣:

可信的部分是那三個能力差距數字。70 比 20、70 比 50、100 比 90,這是跨越兩年的 benchmark 趨勢,不是單一季的行銷說法。開放權重模型這兩年的進步幅度確實驚人——IBM 自己的 Granite 4.2 系列(3B、8B、30B 三種尺寸,全數 Apache 2.0 授權)在 30B 規模上就有 57 分的 SWE-Bench Verified 成績、33.29 分的 SWE Bench Pro,以及 29.24 分的 Terminal-Bench 2.1。

需要打折的部分是那個 90%。Krishna 講的是「廣泛型 benchmark」,不是特定任務。企業實際上線時會發現,同樣是 90% 的平均分,在「摘要郵件」這種容錯度高的任務上可能是 99% 的實務可用度,在「審閱合約」這種出錯成本高的任務上可能是 70%。同一個「90%」在四種任務上的實務價值完全不同,這才是採購決策真正該問的問題,而 Krishna 沒有把它拆開。

最該打折的部分是成本口徑。「token 成本是 10% 到 25%」通常不包含:購置 GPU 的資本支出、機房電力與散熱、推論工程師的人力、以及持續的模型更新維護。當 GPU 從雲端變成資本支出,10% 的 token 價差在折舊年限內會被吃掉相當一部分——這正是 jacquesm 那則留言的核心。

還有一層結構性問題:能力差距收斂不必然等於價值轉移。如果每家企業都自架開放權重模型,前沿模型廠商的營收基礎會被侵蝕——這對開放權重生態是好事,但同時意味著維持前沿模型訓練的資金來源減少,長期的能力差距可能再次拉開。Krishna 沒有回答這個「貓熊均衡」問題,而這恰恰是「開放權重模型是未來」這個說法最需要回答的地方。


為什麼這件事重要

因為它標示了一個產業結構的轉折點:AI 的成本曲線,正在從「能力」轉移到「控制權」。

在 2024 年,企業選 AI 供應商只有一個維度——誰最準確。到了 2026 年 10 月,這個問題被拆成兩個:多準,以及資料與日誌留在誰手上。Krishna 描述的整場法說會,本質上是在說第二個維度的權重已經跟第一個一樣重,而第二個維度對台灣的中小企業、金融業、製造業尤其關鍵。

三個可以立即拿來用的判斷框架:

  1. 把「10% 成本」換成自己的 TCO。 token 成本只是入口。把 GPU 資本支出、機房、電力、散熱、推論工程師人力、模型更新週期全部加進去,用 24 到 36 個月的折舊期攤平,才是真正的單位成本。雲端 API 在低使用量下幾乎永遠更便宜,這一點很多「自架更省」的論述會跳過。
  2. 用任務分級,不要用模型分級。 把工作負載分成「摘要郵件、審閱合約、客服應答、撰寫郵件」這種容錯度分級,逐級評估開放權重模型能不能承擔。Krishna 點名的四類任務正好是起點。
  3. 「主權」的真正對象是日誌,不是模型。 那位大型銀行執行長講的「沒有任何人能拿走底層日誌」,精準指出了企業真正的恐懼:不是模型會不會被訓練,而是你的問題與流程會不會變成別人的訓練資料。這是資料治理問題,不是模型選型問題。

對台灣的中小企業更實際的訊息是:開放權重模型的門檻正在快速下降,但門檻下降的速度遠快於「把它跑起來」的難度。IBM 的兩到三個機櫃說的是「有能力預算的大企業」。台灣的中小企業若要自架,真正要算的不是機櫃數量,而是誰來當那個 kernel 工程師——這是人的問題,不是機器的問題。


後續觀察

接下來幾季,這段發言會在三個地方被驗證或推翻:

  1. IBM 的基礎設施營收結構會不會改變。 如果「企業該自架」真的成為主流,IBM 硬體與 OpenShift 的訂單應該在未來兩到四季內出現結構性變化。反之,如果只有硬體營收微增、軟體與諮詢沒有跟上,這場法說會就只是季度行銷。
  2. 主機營收跌 20% 會不會止穩。 這是 IBM 轉型敘事最脆弱的一環。主機是 IBM 過去七十年現金流的地基,AI 敘事講得再好,地基裂縫不會因為法說會講得好聽就自動修好。
  3. Spyre 能不能真的賣出去。 Spyre 是 5 奈米、256 億電晶體、32 個加速核心、75 瓦 PCIe 卡的商用產品,能在 IBM Z 上叢集 48 張、在 Power 上叢集 16 張。規格漂亮,但整個 AI 推論硬體市場已被 NVIDIA 與雲端供應商占據,「做出來」跟「賣得掉、賣得有人維護」是兩回事。Hacker News 網友 jacquesm 的估計是:IBM 在這條線上落後 NVIDIA 5 到 10 年,要追上得先有像 CUDA 那樣的生態、明確的升級路徑、輕鬆的訂購流程與製造夥伴。

IBM 自家技術頻道上這支影片談的正是本文的核心資產——Granite 4.2 這套以 Apache 2.0 授權釋出的開放權重模型,以及 IBM 為何在「放慢前沿腳步」的同時仍要推動模型能力。Krishna 口中「兩到三個機櫃」要跑的東西,技術細節在這裡。


延伸閱讀

網友熱門留言 (6)

#1 Hacker News 網友 jains99 0
但要跑這些模型的硬體,剛好就是 IBM 很樂意賣給你的東西。
#2 Hacker News 網友 collinmcnulty 0
可以拜託大家不要再替 CEO 說的話加權了嗎?IBM 當然希望我們這麼想,如果這是真的當然很好。但 IBM 的 CEO 說這是真的,這件事的資訊量,等同於一間前沿實驗室說它不是真的:一樣是零。
#3 Hacker News 網友 solyin 0
「便宜」跟「IBM」這兩個字本來就不該出現在同一個句子裡,不過只要你有錢,他們很樂意把可以推論的硬體賣給你。另外「硬體便宜」跟「跑得起來」是兩回事。
#4 Hacker News 網友 liorn 0
這不是一次性的事。on-prem 推論需要持續監控與調校才能榨出 GPU 的最大效能,能看到 25 到 50% 的效能增益。今天這件事確實需要專職的推論工程師。
#5 Hacker News 網友 jacquesm 0
我這台機器有 240G 的 VRAM 總量,這就是它造價這麼高的原因;如果用今天的價格重新買一台,只會更貴。所以我寧可租用——他們有補貼,我沒有,而且我的使用率也沒那麼高。
#6 Hacker News 網友 hypfer 0
當然是 IBM——那個賣大型主機的公司——會說這種話。不過這確實是個勝利,但理由可能跟一般人想的不一樣。它之所以是勝利,是因為現在有個握有資源、預算與人脈的大玩家在對抗那些新的(暫時性的)巨獸。而且跟那些 AI 實驗室不同,IBM 不只是史考特 Valley 裡某個單一明星人物,而是一整個有大量人力的組織,光靠平均值就能更接近正常人的水準。