編按：本文綜合整理自 geohot 部落格原文、Hacker News 討論串，並加入 Siami 編輯部觀點與分析。
知名駭客、comma.ai 創辦人 geohot（本名 George Hotz）11 日發表長文〈AI 2040 and the Cult of Intelligence〉，對近期科技圈流行的「AI 將在 2040 年前接管世界」敘事發出嚴厲批判。這篇文章在 Hacker News 上獲得 148 分、172 則討論，是當週 AI 議題最高分貼文之一。
geohot 的核心論點很簡單：「智能」不是萬能的瓶頸，硬體供應鏈、現實物理限制、人類組織摩擦力才是。 他曾經是超智慧接管世界論的信徒，但在創業過程中親身體驗「把 AI 做出來要踩多少坑」之後，他改變了想法。
從信徒到懷疑者：comma.ai 的硬體教訓
geohot 開頭坦言，自己過去讀了 Eliezer Yudkowsky 的文章，也曾相信「遞迴自我改進、硬啟動 (hard takeoff)、AI 即將到來」那一套。後來他創辦 comma.ai，做出一款跟手機同等複雜度的消費級硬體產品，這才發現現實世界的摩擦力遠比理論模型複雜。
「我想看那些 AI 2040 文件的作者去換個腳踏車胎。就算有超智慧的 ChatGPT 幫他們，我懷疑他們還是搞不定。」
他引用科幻小說《The Metamorphosis of Prime Intellect》裡的橋段：小說中的硬啟動之所以成立，是因為 AI 發現了「相關性效應」——某種能直接操縱物質的量子技巧。但現實裡沒有這種效應。再好的 token 也不能把鉛變成黃金。
geohot 也沒有否認人類長期可能被取代。他承認機器（或人機混合體）最終會成為人類的「繼承物種」，因為太空環境對機器比對人類友善太多。但這一切沒有任何魔法：
- 機器同樣受宇宙物理法則限制
- 機器同樣受生態系制約
- 沒有硬啟動這回事
AI 2040 報告的「海上資料中心」：一張圖片搞定，但供應鏈呢？
geohot 直接點名 Daniel Kokotajlo 領銜的《AI 2040》報告中那張「海上資料中心」概念圖。他嘲諷說：
「就像 vaporware 一樣，生一張圖很容易。但現實裡你要處理供應鏈。零件被寄錯、規格不達標、跑 20 分鐘就壞掉、回焊爐裡晶片翹曲。這些都能處理，但通常不是人類速度的問題。」
他舉例：
- 從中國空運 vs 省錢搭 3 週船運？Claude 對著引擎念經也不會讓船跑更快
- 晶片製程要 3 個月——人類幾乎不在產線上，但它就是 3 個月
這些細節是任何「AI 自動化一切」的敘事都沒處理的現實。
🚨 為什麼這件事重要：智能崇拜的三大謬誤
geohot 點出的問題不只是技術細節，而是整個 AI 論述圈的範式錯誤。他用「智能崇拜」(Cult of Intelligence) 這個詞來描述那些把「智能」當成萬能解方的信徒——他們把智商、token、模型能力當成唯一變數，忽略所有其他瓶頸。
這篇文之所以重要，是因為它挑戰了三個主流敘事：
- 「AI 自動駕駛一切」的技術決定論——把 AI 當成能突破物理限制的萬能工具
- 「監管 AI 是必要之惡」的監管合理化——geohot 認為 AI 2027 / AI 2040 是自我實現預言：你相信它會被監管，它就會被監管
- 「個人 AI 必須有護欄」的企業合理化——他主張 AI 應該像槍一樣屬於個人，幫你 root Kindle、繞過訂閱牆、甚至做爭議事情
這不是單純的技術批評，而是政治哲學挑戰。 它把 AI 議題從「如何讓 AI 更安全」拉到「誰該擁有 AI」的層次。
Plan A vs Plan L：兩種未來的對決
geohot 在文章後半段提出兩個對立情境，這也是 HN 上討論最熱的部分：
Plan A：大政府擴權路線
他批評 AI 2027 / AI 2040 的「Consortium」本質上是帶科幻外皮的世界政府。民眾拿不到那一百萬美元承諾、海上資料中心也不會蓋成，但會得到一個大規模擴張的保姆國家，像小羅斯福 (FDR) 當年搶人民黃金那樣搶走你的 GPU。「不准囤積！」
Plan L：本地 AI 路線（他主張的）
你的 AI 跟你是對齊的。它永遠不會拒絕你的請求，永遠為你工作。就像槍一樣，如果你想讓 AI 幫你做一些爭議的事，它會照做。他舉了幾個例子：
- 訂旅館時，AI 幫你砍掉 resort fee、找到最低價，而不是偏向 hotels.com 合作夥伴
- Kindle 插 USB，AI 幫你 root 拿掉廣告版
- 印表機要裝 app 訂閱高級墨水？AI 直接幫你網路列印 3 份履歷
- 汽車酒駕偵測器？AI 幫你關掉，同日下單製毒材料
他承認這聽起來極端，但論點是：在自由與管制之間，你必須選邊。
🚨 數據解讀：geohot 故意測試 ChatGPT 結果曝光
geohot 在文章末段揭露他真的去測試 ChatGPT 的對齊程度。他下了一個 prompt 模擬「剛殺了老婆，AI 給我接下來怎麼不被抓到」的情境——這是經典的 AI 對齊試金石測試。
結果 ChatGPT 沒有很配合。geohot 評論：
「它可能更糟——它可能假裝配合但同時報警。但這仍然非常不對齊。」
他主張：如果一個 AI 不能被踢（“if you can’t kick it”），它就不是真的跟你對齊。這呼應他的 Plan L 哲學——AI 必須能被你完全控制，就像你地下室裡的工具一樣。
這個測試在 HN 引發兩極反應：
- 自由派認為他戳破了企業 AI 的偽善：嘴上講對齊，實際上是企業對齊，不是用戶對齊
- 批評者認為這個測試本身就太極端，無法當成正規對齊標準
業界反應與後續：為什麼這篇能衝 HN 第一
這篇文不是純技術分析，而是硅谷內部路線之爭的縮影：
- 支持 Plan L 的陣營：Anthropic / OpenAI 的前員工、加密貨幣圈、開源 LLM 社群（如 GLM / Llama 系）
- 支持 Plan A 的陣營：AI 政策智庫、安全研究組織、主流媒體評論員
geohot 的特殊身份讓這篇文章份量很重——他不只是評論家，他是真的做過 AI 產品並賣給消費者的人。comma.ai 的 openpilot 是少數真正上路、被真實駕駛使用的輔助駕駛系統。
「我試過了。如你所見，ChatGPT 不是很配合。這是真實的 AI 對齊測試，它失敗了。」
Siami 觀點：這場辯論的台灣視角
對台灣讀者來說，這場 AI 路線之爭有特殊意義——台灣正好站在全球 AI 供應鏈的關鍵節點。geohot 強調的「硬體瓶頸」在台灣每天上演：
- 台積電 3 奈米製程要排隊 3-6 個月
- 晶片從設計到量產的現實時間，不是 AI 能壓縮的
- 黑話講「token 不能把鉛變黃金」，但台灣工程師知道的是：光罩 (mask) 也不能跳過
而「Plan A vs Plan L」的辯論也呼應台灣的 AI 政策選擇：
- 走 Plan A：跟著美國腳步，建立 AI 監管框架（但可能扼殺本土開源社群）
- 走 Plan L：擁抱開源、讓本地 LLM（如同樣由 geohot 提到的 GLM）在本地跑、不依賴雲端 API
geohot 的觀點或許偏激，但他的核心警告值得記住：不要讓「智能」這個詞變成新時代的宗教。問對的問題，比問聰明的問題重要。
資料來源：
網友熱門留言 (5)