← 返回 Siami 首頁

Google 一年推四款 TPU:8tx 把機密鎖在硬體層、8i Max 兩顆 8i 晶片合一

▲ 226 💬 67
Google 一年推四款 TPU:8tx 把機密鎖在硬體層、8i Max 兩顆 8i 晶片合一

編按:本文綜合整理自 Google 官方部落格〈Our newest TPUs: 8tx and 8i Max, built for the agentic era〉(2026-11-09,Google AI 與基礎架構資深副總裁暨首席技術長 Amin Vahdat 撰文)、MLQ.ai〈Google adds TPU 8tx for confidential AI and a two-chip TPU 8i Max〉、PPC Land〈Google’s AI chip business nears 100 customers as it adds TPU 8tx and 8i Max〉、TechPowerUp〈Google Extends Tensor Processor Unit Series with TPU 8tx and 8i Max〉、Anadolu Agency〈Google unveils 2 specialized AI chip systems in growing Nvidia challenge〉、Google Cloud 官方部落格〈Introducing TPU Sync〉、Google 官方部落格〈Our eighth generation TPUs: two chips for the agentic era〉(2026-04-22)、Google Cloud 官方 YouTube 頻道〈Introducing the TPU agent suite (preview)〉、Google Cloud Tech 官方 YouTube 頻道〈Introducing TorchTPU: Native PyTorch on Google Cloud TPUs〉 與 Hacker News 討論串(226 分/67 則回覆),並加入 Siami 編輯部觀點與分析。文中所有規格、效能數字與客戶數均引自 Google 官方文件與第三方媒體查證,未做自行推估。

2026 年 11 月 9 日美西時間上午,Google 官方部落格出現了一篇由 Amin Vahdat 署名的新文章,標題是「我們最新的 TPU:8tx 與 8i Max,為 agentic 時代而生」。文章的第一句話就點出這次發布的份量:第八代 TPU 家族正式擴張到四款系統,而且這是 Google 史上第一次在一年之內推出四款 TPU 系統。

在社群與媒體的解讀裡,這則發布最常被濃縮成一句話——「Google 又多兩款晶片」——但這個說法其實錯過了重點。因為 TPU 8tx 與 TPU 8i Max 都不是新設計的晶片,兩者都是既有矽晶的重新包裝與系統級配置。那麼 Google 為什麼要花一整篇官方文章、三個多小時的直播,以及一整套軟體開放策略,來宣布兩個「舊晶片的新組合」?

答案藏在整篇發布最不性感、卻最關鍵的一句話裡:Google 說,客戶開始要求能跨越百萬 token 上下文做推理的加速器,也開始要求把加密能力直接做進硬體層。


一、四款系統,其實只有兩份矽晶

Google 這次的組織方式非常刻意。整個第八代家族現在有四個成員,但 Vahdat 在文章中特別強調了一個容易被忽略的區分:

「今天我們要發布兩款新的 TPU 系統——而『新的晶片』與『新的系統』之間有一個重要的差別。」

依他的說法,設計一款新晶片意味著在晶圓上排列數十億個微觀電晶體,是一個受物理法則與長期製造生命週期約束、耗時數年的流程;而「系統」講的是如何把運算、網路與儲存組裝到晶片周邊。這讓工程師可以快速調整封裝、高速記憶體、光學網路與安全機制,而不必重做晶片。

換算成具體數字就是:這次的四款系統只建立在兩份晶片設計上。TPU 8t 與 TPU 8i 是 4 月在 Google Cloud Next 發布的原始設計,TPU 8tx 用的是 TPU 8t 的同一份矽晶,TPU 8i Max 則是把兩顆 TPU 8i 放進同一個封裝。

  • TPU 8t:4 月發布,專為大規模訓練打造,追求最大 goodput(每瓦能源能交付的實用智能)
  • TPU 8i:4 月發布,推理引擎,專為突破記憶體牆設計,晶片間通訊延遲最多砍半
  • TPU 8tx:11 月 9 日發布,保密推論與小規模訓練
  • TPU 8i Max:11 月 9 日發布,百萬 token 上下文與每機架最高算力密度

Google 對 8t 與 8i 給出的官方數字是:相較上一代 TPU,8t 的訓練效能最高提升 2.7 倍,8i 的推論每價格效能提升 80%。這兩個數字是本次發布的比較基準線。


二、TPU 8tx:讓資料在使用中也不必被解密

8tx 要解決的是一個聽起來很技術、但對企業採購者卻生死攸關的問題。Google 在官方文章裡的說法相當直白:

「一般來說,資料在儲存時或透過網路傳輸時會被加密,但在電腦處理它時必須在記憶體中解開鎖定。」

那段「處理中必須解鎖」的時間,就是機密運算(confidential computing)要填補的缺口。對受監管的金融機構、政府機關,以及把自研模型權重視為核心資產的公司來說,模型權重與敏感資料在使用期間仍被隔離保護,是能不能上雲的前提條件。

8tx 的硬體組成是:沿用 TPU 8t 的矽晶,搭配第五代 AMD EPYC 主機,並採用為 TPU 8i 打造的 Boardfly 低延遲網路。Google 宣稱相較 TPU 8t,延遲最多可降低 2 倍,且安全功能帶來的效能損失「近乎為零」。

另一個設計巧思在於把訓練級運算與快速推論網路放進同一套系統。這代表團隊可以在同一台機器上用私有資料微調模型、把大模型蒸餾成小模型、用強化學習訓練代理,而不必在不同的叢集之間搬移敏感資料。

值得注意的是,Nvidia 的 GPU 早就能提供機密運算能力。這也代表 8tx 並不是開創一個新類別,而是把 Google 客戶一直在問的問題正式接住。


三、TPU 8i Max:兩顆 8i 塞進一個封裝

8i Max 面對的是另一個瓶頸:記憶體牆。

官方的情境描述非常具體——當數十個 AI 代理同時處理整個程式碼庫,或同時處理數小時的影片時,記憶體頻寬很快就會成為瓶頸。Google 的解法是把兩顆低延遲的 TPU 8i 晶片合併到單一封裝上,讓算力與記憶體同步擴張:

  • 算力是 TPU 8i 的兩倍
  • 晶片上 SRAM 是兩倍
  • HBM 頻寬是兩倍
  • 在既有機架空間內塞入兩倍矽晶

作為基準,Google 4 月公布的 TPU 8i 單晶片規格是 288 GB HBM、384 MB SRAM、8,601 GB/s 的 HBM 頻寬;TPU 8t 則是每晶片 216 GB HBM、128 MB SRAM,可用 9,600 顆組成 superpod。8i Max 封裝後的絕對數字,Google 這次沒有公布。

「把兩倍矽晶塞進同一個機架」這件事本身的意義,可能比任何單一效能數字都大——因為資料中心的真正瓶頸往往是每平方英尺能塞進多少運算,以及每瓦能抽出多少有效工作,而不是晶片峰值跑分。


四、硬體之外:Google 把整個軟體棧攤開來

如果這次發布只是兩款新晶片,它的重要性大概只值一篇三分鐘的新聞稿。真正讓內容厚度上來的是跟著一起公布的一整串軟體開放動作:

  • TorchTPU 開源:上月開放後,PyTorch 程式碼與 Hugging Face 模型可直接在 TPU 原生執行,vLLM 與 SGLang 等主流推論框架也提供 TPU 後端
  • TPU agent suite 預覽版:可直接接入 Claude Code、Cursor 與 Google Antigravity,用自然語言自動完成 TPU 上線、瓶頸診斷與自訂 kernel 自動調校
  • XLA Serving Engine 開源:在 Python 訓練模型後,可用低延遲 C++ runtime 同時服務於 TPU、GPU 與 CPU
  • TPU Sync 開源:把晶片 HBM、主機 DRAM、共享儲存與資料中心網路統一成單一記憶體階層,自動把龐大的 KV cache 在毫秒級移出晶片,並宣稱把 KV 傳輸延遲與首字元時間降低逾 90%
  • Agent Compute Engine:自動掛起與恢復閒置的代理工作階段,降低基礎設施成本
  • Cloud Pathways 與 GKE 動態切分:兩者皆轉為正式可用,後者宣稱讓工作啟動時間最多加快 5 倍、故障復原最多加快 4.5 倍

Google 還宣稱自家原生 vLLM-TorchTPU 軟體堆疊在 InferenceX 與 AgentX 這兩項測試真實代理式程式設計與長上下文工作的基準上,達成了業界領先的每價格效能。

底層設計上,Google 提到已開始用 AI 反過來設計下一代的 AI 基礎架構:AlphaChip 強化學習系統,以及用 Gemini 把晶片版面配置從數週縮到數小時。


五、數字缺席的發布,以及社群的反應

這次官方公布有一個明顯的空洞:不論是部落格、還是隨後的直播,都沒有附上任何價格、上市時程、開放區域、絕對延遲或吞吐量數字。連「2 倍延遲降低」這種相對數字,都沒有給出對應的基準毫秒值。

社群的反應精準地集中在三個方向。

第一個方向是資訊密度不足。Hacker News 網友 a1o 直言無法判斷這套東西跟其他技術比起來究竟如何;bigwheels 認為這是一份只提出說法、卻完全沒有規格數據的宣傳稿;ur-whale 追問每瓦 token 數與每 token 成本究竟在哪裡,以及跟 Nvidia 同等產品的價格比又是如何。

第二個方向是距離感。xdennis 指出這些晶片並不賣給一般開發者或小團體,Nvidia 賣的 DGX Spark 都已經不是多數人買得起的東西;hi_hi 則批評標題寫著「讓每個開發者都能用 TPU」,正文卻沒有提供任何讓開發者開始使用的資訊或連結;jiggawatts 諷刺說這不過是「一個簡單的二十七步流程,剛好分散在三個入口」。

第三個方向是對競爭格局的判斷。在 Google 內部任職的 dehrmann 明確揭露自己的身分,並認為這最終會有間接好處——給了 Nvidia 一個資料中心市場的對手,讓 GPU 市場的壓力鬆動;而 0cf8612b2e1e 則指出這是一種競爭優勢,如果品質最終收斂到同一水準,最划算的選擇就會最有吸引力,反過來說也可能迫使 Nvidia 全面降價。Twirrim 補充 Oracle 也已宣布明年會把 TPU 帶進自家雲端。

也有不同的聲音。Yajirobe 對「近 100 家客戶」這個數字並不買帳,認為十年累積出這個規模不算多;至於「幾乎沒有人用得到」的批評,則被反駁為很多公司其實是間接在用——租用 GCP 的 TPU、或者他們的 Gemini 流量本身就跑在 TPU 上。

值得記錄的是另一個背景數字:Alphabet 在 2026 年 6 月把年度資本支出指引上調至 1,800 億至 1,900 億美元,同時把「把 TPU 直接部署進客戶自己的資料中心」列為最新的商業方向。Google 也正在 Cheyenne 興建 170 億美元的園區、對馬來西亞做出 150 億美元的承諾。


為什麼這件事重要

把這則發布放進更長的時間軸才能看出份量。Google 設計第一款 TPU 是十多年前,起因純粹是內部需求——語音辨識與語言翻譯。經過八代之後,它的用途已經擴張成四條線:訓練與服務自家 Gemini 模型、承載代理式工作負載、透過 Google Cloud 提供給客戶,以及最近才開通的「讓客戶把 TPU 直接部署進自己機房」。

這第四條線是全新的商業模式,而它背後的數字是 Alphabet 1,800 億至 1,900 億美元的年度資本支出。當一家公司願意把這個量級的錢投入自研晶片,它賣的就不只是算力,而是從模型到執行環境的整條垂直整合。

更關鍵的是「一年四款系統」這件事本身的策略意義。當外部客戶開始具體地說出「我要能處理百萬 token 上下文的加速器」與「我要硬體層級的加密」這類需求時,Google 的反應不是花三年設計新晶片,而是用既有的兩份矽晶在三個月內組出兩款新系統。晶圓廠的節奏是由物理與製造生命週期決定的,但系統級組態的節奏可以由軟體工程決定。這種「用封裝與網路換時間」的能力,是 Google 在 AI 硬體戰裡最難被追趕的一項資產。

而對整個產業來說,Google 把 TorchTPU、TPU Sync、XLA Serving Engine 與 TPU agent suite 接連開源,指向的是同一件事:Nvidia 真正的護城河從來不只是晶片本身,而是 CUDA 那一整套讓開發者不想遷移的工具鏈。Google 很清楚這點,所以這次發布裡軟體開放的份量,一點也不比硬體小。


數據解讀與質疑

先處理最容易被忽略、卻最關鍵的一項數據解讀:這次的四款系統,只有兩款新晶片。

「一年四款 TPU」聽起來像是一年做了四顆新晶片,但實際上是兩份矽晶設計加上四種系統配置。這個區別在採購決策上非常實際——系統級配置可以幾個月內推出、跟既有軟體堆疊深度相容,但它的算力天花板依然由那份 4 月就定案的矽晶決定。8i Max 把兩顆 8i 綁在一起,本質上是把一個已知瓶頸用封裝技術緩解,而不是從根本上提升每晶片效率。

第二,官方在這次公布中給出的所有效能數字都是相對值:2.7 倍訓練效能、80% 推論每價格效能、2 倍延遲降低、90% 的 KV 延遲與首字元時間降幅、5 倍工作啟動、4.5 倍故障復原。沒有任何一個數字附上絕對值,也沒有說明測試條件是什麼模型、什麼序列長度、什麼批次大小。這不是吹噓,而是標準的發布期資訊管控——但也代表「比 Nvidia 快多少倍」這類比較,目前在公開資訊裡根本無法被第三方驗證。

第三,最實用的一項數字藏在 4 月而不是這次:TPU 8i 單晶片 288 GB HBM、384 MB SRAM、8,601 GB/s HBM 頻寬,以及 8t 的 216 GB HBM / 128 MB SRAM 與 9,600 顆 superpod 規模。拿掉這些數字,8i Max「翻倍」的宣稱就沒有可以檢驗的錨點。Google 同樣沒有公布 8i Max 封裝後的絕對容量——而這恰恰是客戶做機櫃規劃最需要的數字。

第四,「近 100 家客戶」這個數字需要溫和看待。Google 列出的是前沿實驗室、交易公司、零售商與大學,但一個名字都沒有公布,也沒有揭露收入貢獻。相較於 Nvidia 資料中心部門的公開規模,這更像是一個存在性的指標而非競爭力的指標。Yajirobe 在討論串裡的質疑是合理的:十年累積出近百家客戶,說明 TPU 是一門真實的生意,但距離「廣告競爭對手」的門檻仍然有距離。

最後,Google 引用 InferenceX 與 AgentX 基準宣稱達成業界領先的每價格效能,但這是自家軟體堆疊在同一組自家硬體上的自家成績。要證明這是硬體優勢而非單純是工程調校功勞,需要在對手硬體上跑同一套軟體作為對照——而這正是目前整份發布裡最缺的一塊拼圖。


Siami 觀點

有兩個角度值得從這則發布裡拉出來看。

第一個角度是 Google 對「晶片世代」這個概念的重新定義。八代 TPU 的敘事裡,Google 從來不把「代」當成競逐跑分的單位,而是當成能力分化的單位。第八代不是「比第七代快幾倍」,而是分化成四個明確的職責:訓練、推論、保密、超長上下文。這其實是一種更成熟的產品思維——當下游需求已經分化到「政府機關的機密推論」和「數十個代理同時讀整個程式碼庫」這種等級,單一最佳化指標(峰值算力)早已失去意義。

而 Google 敢在同一年推四款系統、卻只做兩款晶片,正是這種思維的必然結果:晶片是瓶頸的集合體,系統才是產品。 這也解釋了為什麼這次發布裡「沒有對手晶片」不是缺點。當對手還在用一顆新 GPU 打天下時,Google 已經在用既有的算力原石砌出四座不同的建築。

第二個角度則更尖銳:這次發布最該被追問的不是晶片,而是誰買得起。

社群抱怨「沒有價格、沒有上市時程、沒有區域」聽起來像是吹毛求疵,但結合具體情境後會發現這是真問題。Alphabet 今年資本支出 1,800 億至 1,900 億美元、Cheyenne 園區 170 億美元、馬來西亞 150 億美元承諾——這意味著 TPU 的部署路徑,很可能是先從 Google 自建的超大規模資料中心開始,再透過 Cloud 出租,最後才輪到「部署進客戶自己機房」這種最新也最複雜的商業模式。

在這條路徑上,先受惠的是 Google 自己的 Gemini 服務與 Google Cloud 的大客戶,中小開發者要拿到 8tx 或 8i Max,現實上還有相當距離。TorchTPU 開源、TPU agent suite 接入 Claude Code 這些動作,方向上是對的——它們降低了「寫程式」和「調效能」兩道門檻——但門檻的另一半(取得硬體本身)並沒有被解決。

所以這個「讓每個開發者都能用 TPU」的標題,嚴格來說應該寫成「讓每個開發者都能開始使用 TPU 的軟體工具鏈」。這個差別不是文字遊戲,而是決定了 2026 年底到 2027 年,會有多少開發者真的把工作負載搬上 TPU 的分水嶺。

至於這件事跟 Nvidia 的關係,最誠實的說法可能是:短期內,TPU 8tx 與 8i Max 對 Nvidia 構不成銷量威脅,但它們構成了價格敘事的威脅。 當 Google 能在受監管市場裡提供一個「資料全生命週期都不必解密」的完整方案,而雲端報價又比 GPU 便宜,那些沒有硬體護城河的二線加速器就會先被夾擊。真正值得留意的訊號不是這兩款晶片能不能賣,而是 Oracle 也宣布要把 TPU 放進自家雲端——那才是 Google 這套策略真正開始奏效的時候。


延伸閱讀

網友熱門留言 (10)

#1 Hacker News 網友 ur-whale 0
這幾款的每瓦 token 數或每 token 成本數字在哪裡?跟 Nvidia 同等產品的價格比又是如何?
#2 Hacker News 網友 a1o 0
是我多慮了嗎,這篇寫作裡幾乎沒有可用資訊,我無法判斷它跟其他技術比起來究竟如何。
#3 Hacker News 網友 0cf8612b2e1e 0
這是一種競爭優勢,讓他們能提供更低的每次推論成本。如果品質最終都會收斂到同一個水準,對消費者來說最划算的選擇就變得最有吸引力。反過來說,如果他們能對 Nvidia 形成競爭,或許會迫使 Nvidia 全面降價。
#4 Hacker News 網友 Twirrim 0
Oracle 大概一週前才宣布,明年會把 TPU 帶進他們的雲端服務讓客戶使用。有意思的是,在 TPU 發表的同時,Google 也提到會部署 Cerebras 系統。
#5 Hacker News 網友 dehrmann 0
我在這個領域任職於 Google,但以下看法僅代表個人。最終會有間接好處:這給了 Nvidia 一個資料中心市場的對手,讓 GPU 市場的壓力鬆動一點。當然,也可以直接在 GCP 上租用這些晶片。
#6 Hacker News 網友 xdennis 0
但他們不賣給一般人或小團體,這才是重點。為什麼要在意 Anthropic 或 Oracle?就算 Google 真的賣,多半也不會有負擔得起的型號。Nvidia 賣的是 DGX Spark,但誰買得起?
#7 Hacker News 網友 Yajirobe 0
我知道這是事實,但近 100 家客戶在十年裡真的不算多。
#8 Hacker News 網友 hi_hi 0
典型的 Google。標題明明白白寫著「讓每個開發者都能用 TPU」,但沒有任何資訊或連結告訴我這位開發者到底該怎麼用。
#9 Hacker News 網友 bigwheels 0
這是一份宣傳稿,只提出一些說法,卻完全沒有給出規格之類的數據。新聞稿是嗎?
#10 Hacker News 網友 jiggawatts 0
真不知道大家為什麼一直在抱怨!這不過是一個簡單的二十七步流程,剛好分散在三個入口裡罷了!(文件Coming soon。)