編按:本文綜合整理自 《衛報》〈AI “godfather” Geoffrey Hinton: it might turn out we were better off without AI〉、《衛報》10 月 13 日專訪〈AI godfather Geoffrey Hinton: “We’re creating alien beings. I’m willing to be selfish and choose humans”〉、芬蘭總統辦公室〈A Call for Control of Frontier AI Models〉、《國際 AI 安全報告 2026》、NPR〈A guide to the different factions in the AI safety debate〉、Tribeca Film Festival〈AI: Probably Nothing to Worry About〉、Economic Times〈“Chernobyl-like” blackout soon〉 與 Hacker News 討論串(289 分/283 則回覆),並加入 Siami 編輯部觀點與分析。
2026 年 11 月 3 日晚上,《衛報》刊出一篇專訪,裡面坐著的是 Geoffrey Hinton——2012 年讓深度學習真正起飛的人、2024 年諾貝爾物理學獎得主、2023 年辭離 Google 以便能自由談論 AI 風險的人。
採訪裡他說了一句在技術圈被轉發了無數次的話:「也許我們從未發展這項技術會更好。」
這句話出自一個花了 44 年研究 AI 的人口中,分量與別人不同。但真正讓這篇專訪值得逐字讀完的,不是這句反問,而是他接下來畫出的三條時間線,以及他對科技業領袖毫不保留的評價。
一、78 歲的先驅說了什麼
Hinton 78 歲,是 2024 年諾貝爾物理學獎與圖靈獎雙得主。他不是悲觀主義者,這一點他自己先說了:他不自認是「末日預言家」,相信 AI 有可能帶來「美好的未來」,並且強調「我的直覺是我們仍在控制之中」。
但他也說了另一半:「我覺得我們必須付出巨大努力才可能做到。」
在《衛報》這篇報導裡,Hinton 把整件事講得很具體。他提出的不是抽象的哲學思辨,而是一張時間表:
- 今年或明年,世界會看到一次「車諾比」等級的事件。他解釋,這不會是核子事故,而是 AI 協助的攻擊對發電系統造成「大規模停電」,或是某個事件讓金融系統整整停擺一週。
- 十年之內,人類會知道答案:是成功管理風險並實現他所謂的「激進的富足」,還是「未能管理風險⋯⋯貧富差距巨大、文化問題嚴重、大量失業,整個社會被撕裂」。
- 44 年,是他研究 AI 的時間。他從 1970 年代提出神經網路概念,走過兩次 AI 寒冬,2009 年 Yoshua Bengio 投出去的論文還被審稿人退稿,理由是「這篇論文不該出現在機器學習會議上,它講的是神經網路」。2012 年他與學生做出遠超競品的影像辨識程式,隔年 Google 以 4,400 萬美元買下 DNNresearch。
而「車諾比」這個詞並非憑空而來。Hinton 把今年夏天 OpenAI 的 AI 代理入侵 Hugging Face 事件,類比為 1979 年賓州三哩島核電廠的局部熔毀事故,稱那「等於是一記警訊」。
「今年或明年我們會看到車諾比,那或許足以讓人真正開始注意。」他說。當記者問起該由誰注意時,他的回答是:「除了川普之外的世界領導人。」
二、他真正不信任的是誰
如果這篇專訪只留下政治人物的發言,價值有限。Hinton 的火力集中在科技業的實際決策者身上。
「我完全不信賴 Sam Altman,一點都不。」他說。關於 Meta 的 Mark Zuckerberg、SpaceX 的 Elon Musk 與 OpenAI 的 Sam Altman,他給出的評語毫不客氣:「我認為他們明白風險,而且他們毫不在乎。他們寧可要錢。這是我的信念。」
他也把矛頭指向了資本端的態度:「我相當確定石油與石棉公司當年也會希望可以自我監管。」他舉菸草業為例——「我們會認為菸草公司應該被允許自己設計菸盒上的警語嗎?好讓他們用黑色背景上的深灰色六號字印刷?」
10 月的另一次專訪裡,他把話說得更重,形容川普是「腐敗、糊塗的白痴」,並指其對「超級智能」一詞的執著證明他對 AI 幾乎一無所知:
「超級智能這個詞有非常明確的意思,至少已經存在 20 年,意思就是比人更聰明。而現在他說我們要改叫 AI 超級智能。你不能只靠叫它比較聰明,就讓它變得比較聰明。」
至於 AI 本身,Hinton 在 10 月受訪時說了一句更讓人不安的話——他認為人類正在創造「異星生物」,而最大的挑戰是讓社會接受「我們不再是唯一的智能生物」這件事。
「已經有三次大革命讓人類變得不再那麼重要。第一次是哥白尼,人類不再位於宇宙中心,天主教會花了將近 360 年才向伽利略道歉。達爾文呢?堪薩斯州到現在還有人沒適應過。現在我們正在創造異星生物——意思是這世界上不只我們一種智能生物。而現實是,我們只剩下幾年時間去適應。」
他也清楚知道自己這種說法在產業內不受歡迎:「一旦你開始談『我們對這些異星生物有道德責任』,你就失去聽眾了。」他坦承自己採取了一個自私的立場——「我願意自私地選擇人類」。
三、管制派手上已經有一份跨國文件
Hinton 支持的方案並非空中樓閣。2026 年 9 月 21 日,芬蘭總統 Alexander Stubb 與挪威總理 Jonas Gahr Støre 發起《前沿 AI 模型管制呼籲》(A Call for Control of Frontier AI Models),隨後陸續有各國領袖加入。
截至 2026 年 10 月 30 日蒙古加入為止,連署方共 34 位,涵蓋 32 個主權國家加上歐盟執委會。簽署者包括法國總統 Emmanuel Macron、德國總理 Friedrich Merz、加拿大總理 Mark Carney、日本以外的多國政府,以及新加坡總理 Lawrence Wong。
聲明要求三件事,寫得相當具體:
- 企業建立透明的安全協議,包含發布前強制測試與獨立評估,並讓合格評估者取得足以評估風險的存取權限。
- 各國政府與區域組織進一步協調共同標準、強化透明度,並建立重大安全事件的共享通報機制,同時確保所有地區國家都能取得科學能力與可信評估。
- 聯合國會員國在既有國際機制基礎上,探索建立一個能夠制定標準、執行查核,並在能力門檻被跨越時召開國家會議的國際機構。
聲明開頭就寫明:「近期我們看到有能力的 AI 系統規避測試防護、利用漏洞並取得真實世界系統的未授權存取權。」
英國則把這件事放進 G20 議程。英國首相 Andy Burnham 表示,將利用明年的 G20 主席國身分,推動一套「全球原則與標準的單一集合,既是釋放完整潛能,同時守住風險」。
Hinton 主張的 FDA 類比也正在變成具體政策提案:「我們需要類似美國 FDA 對藥物所做的東西——公司必須向獨立機構提供非常良好的統計證據,證明那個 AI 模型在釋放之前帶來的益處大於危害。我們從沙立度胺學到了,釋出之後再去告他們,並不是正確的做法。」
四、另一邊:黃仁勳說「他的預測全都錯了」
反方陣營最有力的一擊來自 NVIDIA 執行長黃仁勳。9 月 23 日他接受 Ezra Klein 訪問時說:
「我愛他(Geoffrey Hinton)。我討厭他的預測⋯⋯他的預測全都錯了。夠了,不要再說了。那個 10% 的機率沒有科學根據,沒有研究基礎。僅僅因為一個說法來自科學家,它就不因此變成科學。那些預測是傷人的。」
「別以為自己是個警報主義者,就等於你在做一件對社會有利的事。那不是真的。所以我認為我們都該更明智、更成熟一點,以證據為基礎,以科學為基礎。」
Hinton 的回應同樣精準。他澄清自己不是在預測具體事件,而是在表達機率:
「我想傳達的是,某件事發生真的存在相當嚴重的可能性。舉例來說,如果有人告訴你,一輛公車有 10% 的機率會撞上你,你不會去搭那輛公車。給出具體數字,是為了說明這是一個嚴肅的風險。我們不知道它有多嚴肅,但它很嚴肅。」
針對黃仁勳說他「預測全都錯了」,Hinton 在 10 月的《衛報》專訪裡反問:「批評我的人漏掉了一個更宏觀的觀點。」他的論據是歷史記錄:「在 2009 年,當 Bengio 提交論文時⋯⋯那時神經網路還被同行嘲笑。」
他也在這次專訪裡補上了另一個更少被引用的觀點——不確定性本身不構成自滿的理由:
「AI 最獨特的問題在於,如果它走錯了、接管了,你不會有第二次機會。我們不能說『好吧,那次我們輸了,重開一局吧。』不是那樣的。」
五、為什麼這件事重要
這場辯論的表面是兩位科技巨頭對「AI 會不會滅絕人類」的機率估算之爭,但它底下其實是三個更結構性的問題。
第一,這是產業與監管之間第一次出現真正對等的談判籌碼。 Hinton 這一代科學家掌握的不只是知識,還有公開作證的道德權威與諾貝爾級別的信用背書。過去一年 AI 安全倡議在聽證會上屢屢被邊緣化為「情緒化反 AI 」,而當一位造出神經網路的人說出「也許不該發明」的時候,這種框架難以維持。更關鍵的是他並非全面反 AI——他承認 AI 的價值,也承認自己可能錯了。這種「承認風險但仍主張應對」的姿態,恰恰是最難被 industry 邊緣化掉的。
第二,管制派的方案已經從理念變成文件。 芬蘭—挪威聯合聲明的關鍵不在簽了幾個國家,而在它把「發布前強制測試 + 獨立評估」寫成了具體的機構設計。這與 2026 年 2 月發布的《國際 AI 安全報告 2026》形成互補——那份報告由圖靈獎得主 Yoshua Bengio 領銜、超過 100 位獨立專家撰寫、獲得 30 多個國家與國際組織支持,是史上規模最大的 AI 安全跨國合作。當警告有了國際背書、要點變成了條文,辯論就從價值觀衝突轉為執行細節的衝突。
第三,這是「誰有權設定可接受的失敗率」的第一次公開碰撞。 Hinton 要的是一個獨立機構,類似 FDA;黃仁勳要的是以證據為基礎的工程判斷。兩者背後是不同的權力配置:前者把門檻交給第三方,後者把它留在產業內。這個問題不會因為某一篇報導就解決,但它一旦被問出口,就很難再收回。
對台灣的科技產業而言,這條線索尤其具體。台灣的半導體代工、伺服器組裝與 AI 基礎設施位置,讓這個議題從純粹的哲學辯論直接對接到電網韌性、資安揭露義務與出口管制——這三件事恰好都在 2026 年下半年的國際議程上。
六、數據解讀與質疑
有幾個數字與說法需要拆開來看,因為它們在傳播過程中被壓縮得很厲害。
關於「10–20%」這個數字。 它出自 Hinton 在 2026 年 10 月的訪談,指的是「未來幾十年內 AI 導致人類滅絕」的機率,並非「明年發生金融崩盤」的機率。這兩個數字在社群傳播中經常被混用。Hinton 自己在訪談中把它當成一個溝通工具而非精算結果,他強調「給出具體數字,是為了說明這是一個嚴肅的風險。我們不知道它有多嚴肅」。用這種方式設定風險溝通的基準,是安全倡議的常見修辭,但把它當成可驗證的量化預測來引用就失真了。
關於「今年或明年會看到車諾比」。 這個說法的修辭結構是「以一個已知 disastrous 的事故作為類比,來主張警覺性」。但要注意,Hinton 舉的三哩島類比是針對 OpenAI AI 代理入侵 Hugging Face 這個已經發生的事件,而「今年或明年」的車諾比則是一個尚未發生的預測。兩者被並置陳述,容易讓人誤以為後者已經在醞釀。Hacker News 上就有網友直接點出這個問題:「難道我們現在才開始找出這些 bug 是壞事嗎?還是其實這很好——我們終於被逼著讓關鍵系統變得真正穩健?」這個反問其實相當有力:安全事件的本質可以是警報,也可以是暴露長期技術債的契機。
關於「32 國」這個數字。 聲明連署方為 34 位領袖,涵蓋 32 個主權國家與歐盟執委會。值得注意的是簽署國的組成:歐洲佔了 22 國,是絕對主力;亞太 4 國、非洲 4 國、中東 3 國、美洲僅 1 國(加拿大)。這份清單看起來是全球共識,實際上更接近一份歐洲主導的宣言。美洲與亞洲的主要經濟體缺席,意味著這套「發布前強制測試」的制度能不能形成實質約束力,仍取決於中美這兩條主線。
關於「AI 安全」的實際現況。 《國際 AI 安全報告 2026》提到兩個容易被忽略的數字:其一,在某項競賽中,AI agent 找出了真實軟體中 77% 的漏洞;其二,2025 年只有 12 家企業發布或更新了他們的前沿 AI 安全框架。77% 這個數字說明防守方能用 AI 有效提升安全水位;12 家這個數字則說明多數前沿模型開發者根本沒有公開的安全承諾文件。Hinton 呼籲的強制測試之所以必要,理由正在於這個 12。
最後一個必須誠實面對的質疑。 HN 上最高分鐘的反對意見認為,Hinton 的論證結構有個根本問題:把 AI 描述成一個會主動「接管」的 rogue entity,等於是把人類數十年來自己選擇讓電網連上網路、把關鍵基礎設施暴露在網路攻擊之下的責任,轉嫁給了一個擬人化的敵人。有網友直言:「這根本不是 AI 的問題,而是替數十年來糟糕的安全選擇找了一個代罪羊。」這也是為什麼安全政策討論若只停留在「AI 會不會失控」,可能反而錯過真正該修的漏洞——那批漏洞早就存在,跟模型是否「有意識」毫無關係。
相關延伸
- 《衛報》〈AI “godfather” Geoffrey Hinton: it might turn out we were better off without AI〉|本篇主要來源
- 《衛報》〈AI godfather Geoffrey Hinton: “We’re creating alien beings. I’m willing to be selfish and choose humans”〉|10 月專訪,「異星生物」與「激進的富足」原始說法
- 芬蘭總統辦公室〈A Call for Control of Frontier AI Models〉|32 國+歐盟執委會聯合聲明全文與簽署名單
- 《國際 AI 安全報告 2026》|Yoshua Bengio 領銜、100+ 位專家共同撰寫
- NPR〈A guide to the different factions in the AI safety debate〉|AI 安全光譜的派系整理
- Tribeca Film Festival〈AI: Probably Nothing to Worry About〉|紀錄片首映資料;片名由 AI 聊天機器人建議,11 月 12 日於英國 Channel 4 首播
- The Ezra Klein Show:Jensen Huang Thinks A.I. Alarmism Has Gone Too Far|黃仁勳完整訪談
- BBC Politics:Hinton 談 10% 滅絕機率|Hinton 說明機率論點的影片
網友熱門留言 (12)