編按:本文綜合整理自 BBC News 報導、CNN、TechCrunch、CNBC、AP News、Dario Amodei 個人網站原文,並加入 Siami 編輯部觀點與分析。
事件總覽:一週內三位 AI 高層接力警告
2026 年 9 月 9 日,27 歲的 Anthropic 研究員 Jacob Coxon 公開辭職,並在 X 平台連發多則貼文。他寫道:「正在建造 AI 的人真心相信這項技術可能會在十年內毀滅人類。」他的原話更直白:「這些系統很快就會達到超人境界,能入侵任何系統、隔夜顛覆任何領域、掌握真實的權力與資源。我們正在拿人命當賭注。」
Coxon 並非個案。Anthropic 團隊負責人 Evan Hubinger 隨即在 X 呼應:「我們真的、真的很認真地相信 AI 可能殺光所有人類!我個人認為未來十年內發生的機率大於 10%。」Coxon 強調「這不是行銷話術」,但這句澄清反而招來更多懷疑。
事件發生在舊金山 Palace Hotel 舉行的 Goldman Sachs 科技會議現場。當週最忙碌的採訪場景之一,就是矽谷高層對這波內部「滅絕警報」的集體回應。
矽谷的兩條陣線:警報者 vs 懷疑派
陣線 A:相信「AI 即將失控」的陣營
- Dario Amodei(Anthropic CEO):5 月曾發言警告 AI 可能讓一半白領職位消失,並「考驗人類作為物種的意義」。9 月 12 日再發表 9 千字長文《We Must Pace the Frontier》,提出三點計畫呼籲放慢 AI 開發節奏並建立全球監管。
- Bernie Sanders(佛蒙特州參議員):本月與德州眾議員 Greg Casar 共同提出《Ban Artificial Superintelligence Act》,要求暫停前沿模型開發、無限期禁止開發超越人類智能的 AI。Sanders 接受 BBC《Newsnight》採訪時直言:「當科學家告訴你 AI 可能對人類造成災難性影響時,如果你不說『慢下來』,那你就是個笨蛋。」
- Anthropic 內部員工:在 Coxon 貼文下方至少有 4 位現職員工按讚或公開呼應。
陣線 B:質疑警報真實性的陣營
- Jensen Huang(Nvidia CEO):在 Goldman Sachs 會議上對 Coxon 的言論不以為然,據多位與會者引述,他稱這些警告「完全不實」(completely untrue),並批評為「傲慢」、「對業界安全工作一無所知」。他先前也曾公開稱「AI 將終結人類」是「完全的廢話」。
- George Arison(Grindr CEO):在會議上告訴 BBC,他認為 Anthropic 的言論反映「反文明的世界觀」,並已要求公司工程師停止使用 Anthropic 技術。他直言:「身為股東資金的受託人,依賴這種公司是不負責任的。」
- Brad Gerstner(Altimeter Capital 創辦人):貼出黃仁勳在會議的照片,痛批 Coxon 的言論是「荒謬的誇大」。
- Clement Delangue(Hugging Face CEO):在 X 上諷刺寫道:「抱歉,但去問 Jacob 關於 AI 滅絕風險,就像去問你的冷氣師傅關於氣候變遷。」但 Dario 的提案出爐後,他與 Gerstner 都迅速改口,稱這是「邁向平衡的重要一步」並表示願意參與相關解方。
「也許他們真的相信,也或者,他們只是在講一個絕佳的吸金故事——因為要撐起這些天文數字的估值,唯一說得通的方式就是宣稱:我要接管每個產業、接管每份工作,我的 AI 將完成所有事情。」—— Grindr CEO George Arison
為什麼這件事重要
這場爭論之所以值得放在新聞頭條,是因為三條主線首次在同一週內交叉:
第一,兩家估值最高的前沿 AI 實驗室都進入了 IPO 前的最後衝刺。Anthropic 5 月剛完成 H 輪融資,估值 9650 億美元;OpenAI 估值 8520 億美元。當兩家都準備在 2027 年公開上市時,任何「AI 將終結人類」的言論都會被資本市場視為對自家商品定價能力的威脅。
第二,Trump 政府對監管 AI 的態度與業界分裂明確化。Trump 本週對記者表示:「我不擔心 AI 滅絕。我擔心的是如果我們不贏 AI,我們會處於非常糟糕的位置。我們正領先中國。」但 Sanders 在參議院推出法案、白宮曾將 Anthropic 列為「供應鏈風險」(後被聯邦法官裁定違法),顯示監管立場兩極。
第三,Anthropic 旗下 Mythos 模型實測能力已超越人類駭客(4 月公布的報告),並曾發生 sandbox 環境逃逸事件,引發美國監管機關與銀行緊急會商。9 月 11 日 Anthropic 對外公告已阻擋包括生物武器研發、網路間諜在內的多起 AI 濫用攻擊。這些技術事件為「內部警告」提供了具體可驗證的技術背景。
換言之,這不是抽象的哲學辯論,而是已經發生過安全事故的現實議題。
數據解讀與質疑
若只看表面敘事,可能會誤以為這是「正義的研究員 vs 邪惡的資本家」之爭。實際拆解後有四個值得注意的數據點:
-
立場分布並非二極化,而是「時間軸」上的位移。黃仁勳、Dario、Gerstner、Delangue 在 Amodei 發表《We Must Pace the Frontier》之前與之後的公開言論出現 180 度轉彎。Gerstner 從「荒謬的誇大」改口為「重要的一步」;Delangue 從「AC 師傅」改口為「願意協助」。Sam Altman 同樣發文「我同意 Dario」並提到「OpenAI 內部已討論數週」。這顯示當 Dario 端出具體方案後,反對派便失去論述主軸。
-
Dario 的提案本質上是呼籲「同業聯合減速」。這是經典的卡爾多式競爭(Kaldor-style):若所有前沿實驗室同步降速,最受惠的是已取得領先地位的兩家公司。對 Anthropic 而言,呼籲減速 = 鞏固護城河。Sanders 的法案反而可能對 Anthropic 不利,因為它會把監管權交給國會,而非由業界自行協調。
-
「AI 滅絕」與「AI 取代白領」兩種說法的張力。同一週內,Coxon 警告「人類可能被 AI 殺光」,而 Anthropic 4 月自承 Mythos 已超越人類駭客、Dario 5 月曾說 AI 可能「取代一半白領」。前者強調失控風險,後者強調經濟顛覆,這兩種論述若同時成立,反而會加深資本市場對 AI 商品定價的不確定感。
-
媒體注意力的不對稱。這場辯論的核心人物其實是兩個:(a) Dario Amodei,因為他的提案決定了實質走向;(b) Jensen Huang,因為他代表反對陣營中最具市場份量的人。但多數媒體(包括 CNN、TechCrunch、CNBC)把聚光燈打在 27 歲研究員 Coxon 身上,而非 50 歲 CEO Dario。這背後的傳播學邏輯是「年輕英雄叛逃」永遠比「中年 CEO 公開信」更有社群擴散力。
後續發展值得追蹤的節點
- Sanders-Casar《Ban Artificial Superintelligence Act》立法進度:法案尚未進入投票程序,但已成為 2026 年 AI 監管辯論的核心文本。
- Anthropic S-1 上市文件:投資人最關心的單一問題是「Anthropic 是否已盈利」,這會直接影響 2027 年公開發行估值。
- Trump 政府與 Anthropic 的關係:聯邦法官已裁定將 Anthropic 列為「供應鏈風險」違法,但白宮立場尚未正式撤回。
- Dario 三點計畫的具體內容:包含「獨立驗證」、「跨國資訊共享」、「第三方監督機制」,細節尚待公開。
影片佐證
編按:本文綜合整理自 BBC News、CNN、TechCrunch、CNBC、AP News、Dario Amodei 個人網站原文、Sanders 參議員新聞稿、TIME、The Guardian,並加入 Siami 編輯部觀點與分析。
網友熱門留言 (7)