IBM Granite 4.2 開源模型系列上線：原生推理能力 + 128K context，主打企業代理型 AI 工作流

編按：本文綜合整理自 Ars Technica 原文、IBM Granite 官方 Hugging Face 模型 README（granite-4.2-3b/8b/30b）、Hugging Face Granite 4.2 部落格、Reddit r/LocalLLaMA 社群討論，並加入 Siami 編輯部觀點與分析。Granite 4.2 採用 Apache 2.0 授權，可免費用於商業用途。

IBM 在 2026 年 8 月 25 日正式釋出 Granite 4.2 系列，這是 Granite 開源 LLM 家族的最新版本，主打「企業代理型 AI 工作流」與「可預測的部署體驗」。三個尺寸同時上線：3B、8B、30B，並在 Hugging Face、GitHub、Ollama Library 同步開放下載。

Granite 4.2 的核心改變是原生內建推理能力（Native Reasoning）。模型採用 decoder-only dense Transformer 架構，內建 <think>...</think> chain-of-thought 推理區塊，使用者可在同一個模型內切換三種思考模式：

• Full Thinking（預設）：完整思考，適合數學、編碼、多步邏輯
• Non-Thinking：跳過思考，直接給答案，適合低延遲需求
• Low-Effort：折衷模式，平衡速度與深度

這讓企業部署時不必為了不同任務切換不同模型 — 一個 Granite 4.2 8B 就能同時處理客服問答（不需要思考）與複雜財報分析（需要思考）。

規格與架構

Granite 4.2 三個尺寸的主要差異：

8B 與 30B 經過**代理強化學習（agentic RL）**訓練，能在終端機、網頁搜尋、API 呼叫之間切換；3B 雖然也支援 tool calling，但沒有經過同等強度的專項訓練。Granite 4.2 系列原生 128K context、可擴展到 512K，這在開源模型中屬於第一梯隊 — 對長文檔摘要、程式碼庫分析、合約審閱等企業場景極為關鍵。

值得注意的是，Granite 從 4.0 開始就改用 decoder-only 架構，不再走 encoder-decoder 路線。這與整個開源 LLM 圈的趨勢一致 — Mistral、Llama、Qwen 都已全面擁抱 decoder-only。

Granite 4.2 的「企業基因」：不是最快，是最穩

Granite 系列從來不以 benchmark 跑分聞名。相較 Meta Llama、阿里 Qwen、Mistral，Granite 的行銷定位一直是**「可預測的企業部署」** — 這正是 IBM 對企業客戶的核心承諾：

• Apache 2.0 商用授權：無商用版稅、無 IP 風險。對比 Meta Llama 的「月活 7 億用戶以上要洽談」條款，Granite 對中型企業更友善
• Watson X 內容保証：IBM 提供法律保証，Granite 生成的內容只含授權過的訓練素材，這在醫療、金融、法律產業是關鍵賣點
• Red Hat OpenShift 一級支援：與 IBM 自家 OpenShift 平台深度整合，企業不用自己 hack 部署流程
• 量化版本齊全：GGUF、NVFP4 格式都已上線，Ollama、vLLM、LM Studio 直接拉就能跑

Reddit 社群對此的評價很直接：

「Granite 總是稍微落後一點，但至少 Apache 授權，而且每代都有進步。」 — u/DeltaSqueezer

「每次聯繫 Red Hat OpenShift 銷售，他們都會把『我們對 Granite 提供一級支援』塞進我耳朵。」 — u/Altruistic_Heat_9531

換句話說：Granite 不是來搶 frontier model 寶座的，它要搶的是「企業 IT 部門的信任」。對 IBM 而言，這比在 LMSYS 排行榜上贏過 GPT-5 重要得多。

為什麼這件事重要

Granite 4.2 在 8 月底這個時間點上線，剛好踩中兩個產業轉折：

第一，「企業 AI 落地」從雲端走向端側。過去 18 個月，Anthropic Claude、OpenAI GPT-5、Google Gemini 都在衝 frontier model 規模，但企業客戶同時在試本地推理 — 法規要求（GDPR、HIPAA）、成本控制（API 費隨用量線性增加）、資料主權（金融/醫療不能出境）。Apple 在 8 月 25 日同一天推出 Mac Studio M5 Ultra、Mac mini M6，主打的就是「裝置端 AI 工作站」，Granite 4.2 的 3B/8B 正好是這類硬體的甜蜜點。

第二，「代理型 AI」從 demo 走向 production。Granite 4.2 的 agentic RL 訓練不是裝飾 — 它真的能讓模型在多步任務中正確呼叫工具。對企業而言，這代表 Granite 4.2 可以直接接進現有 CRM、ERP、Knowledge Base，不需要從頭訓練。

Siami 觀點：Granite 4.2 不是技術突破，是生態卡位。IBM 不打算在 benchmark 上贏過開源對手，它賭的是**「當企業準備把 AI 從雲端搬到本地時，Granite 是最不麻煩的選擇」**。這個賭注能不能贏，要看 9-10 月有多少 Fortune 500 把 Granite 部署進實際 production。

數據解讀與質疑

社群討論中浮現三個值得關注的質疑點：

質疑一：512K context 是真材實料還是行銷話術？

Hugging Face model page 寫的是「Native 128K, Long-context extension to 512K」。Reddit 用戶 u/noctrex 直接吐槽：

「當然是唬人的，原生 128K、擴展到 512K。這只是用 position interpolation 之類的技術硬拉上去，實際 retrieval 品質在長尾段會掉。」

這是開源社群對「context window 數字膨脹」的普遍質疑 — Llama 3 號稱 128K、Qwen 號稱 1M，但實測在 32K 以上的任務表現就開始劣化。Granite 4.2 的 128K/512K 是否能撐住長文檔問答的精確度，需要企業實測才能下定論。

質疑二：開源社群對 IBM 商業模式的根本矛盾

IBM 一邊提供 Apache 2.0 開源 Granite、一邊靠 Watson X、Red Hat OpenShift、咨詢合約賺錢。這本質上是**「open core 商業模式」** — 模型開源、部署與支援收費。對開源社群而言，Granite 的「真開源程度」永遠會被拿來與 Llama、Qwen、Mistral 比較。但 IBM 的如意算盤是：對企業客戶而言，「能打電話找到 IBM 工程師」比「模型在 benchmark 多贏 2 分」更有價值。

質疑三：Reddit 上的「5.2GB 卻佔 27GB RAM」問題

r/LocalLLaMA 上有使用者反映 Granite 4.2 8B 模型檔只有 5.2GB，但載入後佔用 27GB RAM。原因如社群所說：這是 standard dense Transformer 的 KV cache，沒有採用 hybrid attention。對想用 Mac mini M4（24GB 統一記憶體）跑本地推理的使用者，這個 RAM 占用是個實質障礙。

怎麼開始玩

Granite 4.2 已經在多個平台上架：

• Hugging Face：https://huggingface.co/ibm-granite（Granite-4.2-3B/8B/30B 完整系列）
• GitHub：https://github.com/ibm-granite/granite-4.2-language-models
• Ollama：ollama pull granite4:8b（已上架）
• LM Studio：搜尋 ibm-granite 即可下載 GGUF 量化版

本地推理需求建議：

Granite 4.2 不是來取代 GPT-5、Claude Sonnet 4.5、Llama 4 的。它是給想在本地跑一個「商用授權乾淨、IBM 背書、Apache 2.0、agentic 能力齊全」的開源模型的企業 IT 部門準備的。這是 IBM 在開源 LLM 戰場上最務實的一次出牌。