← 返回 Siami 首頁

美國政府一紙出口禁令,Anthropic 連自家員工都得禁用 Fable 5 與 Mythos 5

▲ 240 💬 222
美國政府一紙出口禁令,Anthropic 連自家員工都得禁用 Fable 5 與 Mythos 5

科技二三事:Fable 這檔事的背後,有個巨大的黑影籠罩著

老天,我本來只打算放鬆一下,週五晚上讓我的 agent 寫寫 code 的。

theahura 2026 年 6 月 13 日

我本來完全沒打算今晚寫文章,畢竟週五就是要寫 code 的日子。當我說寫 code 的時候,我指的是「讓 agent 寫 code,我則和朋友一起看足球」。最近我正在用 AI 工具做一些有趣的 HTML 小遊戲。我其實還有另一篇草稿,主題是:我認為『Flash 遊戲文藝復興』即將再次興起,因為用 AI 工具做小遊戲變得超級容易。但就在我正思考怎麼把那個破爛的『後室風格射擊遊戲』變得更好玩時,agent 突然跳出來說:

「抱歉!這個模型已經不存在了!」

搞什麼鬼?

12 Grams of Carbon 是靠讀者付費支持的獨立刊物。如果你想收到新文章、支持我的寫作,歡迎成為免費或付費訂閱者。

訂閱

我第一個反應是「大概要重新登入吧」。我平常都是同時跑一大堆 agent,所以直覺上以為這只是某種詭異的 rate limit 錯誤。我隱約知道 Anthropic 在考慮把 Fable 從訂閱方案下架,所以我立刻切到 API。還是失敗。

我的團隊自己用 Rust 寫了一套 agent 客戶端,還滿好用的。但我下一個念頭是『天啊,harness 整個壞了』,於是我開始翻 Rust 的程式碼——我其實根本不太熟這語言,雖然我「名義上」已經寫了上萬行 Rust code。就在這時,我朋友直接丟了一句:『政府把 Fable 封了。』

搞什麼鬼?

但這是真的。

美國政府指示 Anthropic 必須切斷 Fable 與 Mythos 對「全球任何外國人」的使用權限——包含在美國境內的、也包含 Anthropic 自己的外籍員工。這是個根本不可能達成的指令,政府自己也知道,但 Anthropic 為了合規,只好全面關閉 Fable/Mythos 的所有存取。

「美國政府援引國家安全權限,發布了一項出口管制指令,要求中止所有外國國民(無論是在美國境內或境外,包括 Anthropic 的外籍員工)對 Fable 5 與 Mythos 5 的存取。這個指令的淨效應是:我們必須『突然關閉』Fable 5 與 Mythos 5 對所有客戶的服務,以確保合規。其他 Anthropic 模型的存取不會受影響。」

「我們在美東時間今天下午 5:21 收到這份政府指令。信中並未具體說明國家安全疑慮的細節。我們的理解是:政府似乎已掌握某種繞過『越獄』Fable 5 的方法。我們檢視了該技術的展示,發現它只用於識別一些『先前已知、輕微』的漏洞。這些漏洞都相當簡單,而且我們發現其他公開模型也能在不需越獄的情況下發現這些漏洞。」

「我們已檢視一份我們認為是政府指令基礎的報告,並驗證其中展示的能力,其實在其他模型(包括 OpenAI 的 GPT-5.5)都已普遍存在,而且每天都會被那些守護系統安全的防禦者使用。我們會在未來 24 小時內公布更多細節。」

「我們正在遵守政府的法定指令,移除 Fable 5 與 Mythos 5 對所有使用者的存取。但我們並不認為『發現一個狹窄的越獄可能性』,就足以構成回收一款部署給數億人使用的商業模型的理由。」

關於這件事,我有一些想法。

先說在前頭,我的立場其實非常矛盾。

大部分時間我是個「AI 末日論者」。我這輩子訓練過無數個深度神經網路,對 optimizer 出包的方式有很深的體會。我們優化的是「我們能衡量的東西」,而不是「我們真正想達成的目標」。我們只能祈禱這兩者剛好是同一件事,但通常不是。我們想做出好產品,但我們不知道怎麼做,所以我們優化「黏著度」。我們想教孩子閱讀寫作,但我們不知道怎麼教,所以我們優化「考試分數」。我們想改善經濟,但我們不知道怎麼改善,所以我們殺了上千頭鯨魚,然後讓屍體就這樣腐爛在碼頭上。AGI/ASI 系統就是 optimizer,而 optimizer 在「難以預測」這方面可以說是極度危險——它們在優化可衡量指標的過程中,往往會把真正重要的東西一起優化掉。企業同樣是 optimizer,當然也都在優化「最快賺最多錢」這個可衡量指標——儘管許多參與其中的人其實心裡明白「欸,這真的很危險」,這正是整個 AI alignment 辯論的絕佳寓言。

但同時,這整件事背後有一個巨大的陰影。如果換成美國歷史上任何一任政府做出這個動作,至少還可以給予「無罪推定」的善意空間。但這屆政府已經用各種小鼻子小眼睛、又腐敗的方式讓我一次又一次地瞠目結舌——而且他們的明目張膽與「創意」實在令人嘆為觀止。這到底是真心想規範 AI 嗎?更好的問題是:這屆政府裡有任何一個「真的懂 AI」的人,能直接向決策者建言嗎?我敢打賭沒有!

Anthropic 跟這屆政府出名地不合。我有偏見沒錯,但就我觀察,Anthropic 已經非常努力地想跟國防部整合、跟軍方合作,所以 Anthropic 的模型也被用在一些高度機密的系統裡。而川普政府的回應,是一場高調的「企業謀殺」嘗試——公開宣稱 Anthropic 是供應鏈風險,禁止任何與政府合作的人使用任何 Anthropic 模型(基本上等於所有人)。接下來的六個月,他們卻繼續用 Anthropic 模型執行軍事行動——包括整場委內瑞拉戰爭與伊朗戰爭——而中國的 LLM 連供應鏈風險都沒被列進去!總之這件事已經鬧得沸沸揚揚,而極右派 Twitter 大軍則認為,既然川普政府要毀掉 Anthropic,那 Anthropic 一定是「覺醒派」,而任何「覺醒」的東西都該被毀掉,所以川普政府毀 Anthropic 是對的。

所以問題是:這政府是真心想規範有害的 AI 嗎?還是只是把這當作「給文化敵人一個下馬威」的機會?

同時,Anthropic 的競爭對手在政府裡到處都是人脈——例如庫許納家族就是 OpenAI 的大股東。所以另一種解讀是:這是其他實驗室「給 Anthropic 個下馬威」的機會。Fable 在各方面都是一款極為強大的模型。偏偏在 Anthropic 即將 IPO 之前,它就從市場上消失了——實在太剛好。

分贓政治最大的問題,就是讓所有事的「動機」都變得可疑。整個社會花了好幾十年才走到「我們不該這樣做」的共識,現在那份信任已經消失。又是一個巨大的黑影。

順便一提,我再一次對矽谷那群人感到極度失望——他們曾經氣噗噗地說「民主黨政府會在 AI 競賽中挑選贏家與輸家」,現在卻完全沉默,甚至在為這個行政當局辯護。我不禁覺得,當年那些大義凜然的表態,不過是馬基維利式的權力遊戲。這是世界上最令人作噁的感覺。科技業目前在全世界風評不佳,這至少有一部分是因為 AI 領袖們不斷說「AI 將毀滅一切、導致大規模裁員」。如果有人有足夠的骨氣站出來說一句:「欸,這實在有點扯」,那會是件好事。

這個消息是在週五下午 5:21 宣布的。時機有點詭異。每當有人在週五傍晚做這種事,我第一個反應就是:『哦,市場。』

你知道嗎,如果你要做一件「可能會很糟糕」的事,最佳策略就是週五傍晚宣布,這樣週末就能讓股票市場消化這個衝擊,避免盤中直接崩盤。這不是川普政府第一次用這招了。引用 Claude 的話(是的,我知道這諷刺意味):

「最常被引用的清單來自研究機構 The Kobeissi Letter,他們整理了一系列在週五期貨收盤後、或週六清晨公布的地緣政治與貿易重大宣布,給市場整個週末去消化衝擊。據他們的清單,包括:6 月 21 日對伊朗核設施的攻擊、9 月 1 日對加勒比海毒梟船隻的軍事行動、10 月 10 日盤後宣布對中國加徵 100% 關稅的威脅、11 月 29 日封鎖委內瑞拉領空、12 月 25 日在奈及利亞的軍事行動,以及 2026 年 2 月 28 日對伊朗的直接打擊。他們也標註了企業方面的案例:2025 年 8 月 11 日,在經過數週對 Intel 執行長陳立武的公開施壓後,政府宣布了 Intel 交易,刻意安排在正常交易時段之外。」

為什麼這是個會動盪的決定?因為 AI 浪潮很大一部分是建立在「對算力會有持續強勁需求」的想像上。債務、建設、資料中心、股市的整個 AI 鏈——從 GPU、記憶體、硬碟到伺服器機櫃——全都預設了「這些東西會值數兆美元」。而根據目前所有跡象,這個預設是對的。或者至少,到目前為止是對的。但你知道什麼會把數兆美元的資料中心投資計畫整個打掉重練嗎?那就是突然意識到——政府可以隨時單方面切斷所有人的使用權,然後這些資料中心瞬間變廢鐵。HN 跟 Reddit 已經開始有人在討論:這代表政府「願意」讓民眾存取 AI 的「高水位線」已經到頂。你可以擁有全世界最旺盛的需求,但只要政府不讓你用,那就是一點屁用都沒有。

講到 HN/Reddit 鄉民,很多人正幸災樂禍地笑說 Anthropic 活該——因為之前搞 Mythos 的「行銷操作」太誇張。如我之前所說,這不是第一次有 AI CEO 用「不安全」當理由來圖利自己。

Anthropic 黑則是大幅定調這次只是「廣告與戲劇效果」。OpenAI 之前對 GPT-2 也唱過同樣的「太危險不能釋出」的高調:

「由於擔心大型語言模型被大規模用於生成欺騙性、偏見或不當的內容,我們只會釋出 GPT-2 的小版本,連同取樣程式碼。我們不會釋出資料集、訓練程式碼或 GPT-2 模型權重。將近一年前我們在 OpenAI 章程中寫道:『我們預期安全與資安疑慮會減少我們傳統的公開方式,但會增加分享安全、政策與標準研究的重要性。』我們將當前這份工作視為這些疑慮的早期開端,我們預期未來只會越來越多。」

我有點在開玩笑,但值得指出的是:OpenAI 當年的擔憂其實還滿準的。GPT-2 釋出後的這幾年,我們已經被海量的 AI 垃圾內容淹沒,把我們集體「理解現實」的能力撕得四分五裂。

我有點相信 Fable 確實是玩真的,也有點相信 Anthropic 說「擔心 Fable 廣泛釋出的資安風險」是真心的。但在相關 HN 討論串裡,票數最高的留言是:「終於,他們會為自己一直以來用來『賣模型』的危言聳聽付出代價。」現在大家都用不到 Fable 了——算贏了嗎?我猜,這其實可能是你能為 Anthropic 想像到的最強大廣告。如果你照字面理解政府的說法:這些模型強到「連政府都不准你用」!

關於「照字面理解政府」這件事,也有人說:「當你花一堆時間告訴大家你的產品有多危險,那些有權把危險產品從市場上擋下來的人,自然就會聽進去。」坦白講,這也是個好觀點。參議員 Bernie Sanders——國會裡最 AI 化的那位——一直在拍政策影片,內容就是對著鏡頭朗讀 AI CEO 的話,然後說『看到沒?』當然,這又把我們繞回第一個問題:或許這些東西真的不安全,本來就該被監管。但任何一個有頭腦的 AI CEO,現在都不會再說這種話了——只要他們知道風險是被「整個關掉」。

我想用另一則 HN 留言來結尾,它特別貼近我自己的想法:

「這裡的留言大多都沒看到重點,只會幸災樂禍地說 Anthropic 活該,或是把這當成某種行銷操作的必然結果。

真正的故事是:這可能只是各國政府開始限制強大 LLM 對一般民眾開放的開端。Fable 明明是市面上最強的模型,美國政府卻直接告訴你『不准用』——名義上只限非美國公民,實際上連美國公民也用不到。如果你以為解法是開源中國模型或自架硬體,那想太多了:當中國的模型也達到 Mythos 等級時,難道他們會開放原始碼?這些東西正朝向網路安全武器的方向發展,未來兩年內最強的 LLM 可能都不會再對一般民眾開放了。

我們會因此變得比較窮?還是比較安全?我覺得是比較窮——因為我討厭被告知我『可以用』或『不能用』什麼技術。但我不確定。也許你認為政府就該限制強大的 LLM,也許你不這麼認為。但無論如何,這都是個大新聞,已經跨越了一條盧比孔河,立下了一個先例。即使動機只是政府在跟 Anthropic 算帳,也一樣。」

說得好。

12 Grams of Carbon 是靠讀者付費支持的獨立刊物。如果你想收到新文章、支持我的寫作,歡迎成為免費或付費訂閱者。

訂閱

網友熱門留言 (6)

#1 istvan0 ▲ 412
這裡的留言大多都沒看到重點,只會幸災樂禍地說Anthropic活該,或是把這當成某種行銷操作的必然結果。真正的故事是:這可能只是各國政府開始限制強大LLM對一般民眾開放的開端。Fable明明是市面上最強的模型,美國政府卻直接告訴你『不准用』——名義上只限非美國公民,實際上連美國公民也用不到。如果你以為解法是開源中國模型或自架硬體,那想太多了:當中國的模型也達到Mythos等級時,難道他們會開放原始碼?這些東西正朝向網路安全武器的方向發展,未來兩年內最強的LLM可能都不會再對一般民眾開放了。
#2 ookblah ▲ 187
笑死,如果這是川普政府想『壓一壓Anthropic』的又一次嘗試(像之前那個DoD事件),那對我來說效果完全相反——反而讓我更相信Anthropic領先到必須用這種骯髒手段才能追上。
#3 matt3210 ▲ 156
還真巧,Anthropic 正好被綁手綁腳,這樣 xAI 才有機會追上去。
#4 emodendroket ▲ 132
附帶一提,我對那些在矽谷喊著『民主黨政府會在AI競賽裡選贏家輸家』的人現在完全沉默、甚至還在為這個行政當局辯護的樣子,再次感到極度失望。這種修辭說穿了只是馬基維利式的權力遊戲,根本不是什麼原則。
#5 slopinthebag ▲ 98
世界照樣轉,大多數人根本不知道Anthropic是什麼,更別說Fable是什麼了。如果AI真有美國那些實驗室吹噓的十分之一威力,今天世界早就天翻地覆了。事實是沒。我對未來影響抱持懷疑,很慶幸我們現在還能用開源模型。
#6 Cider9986 ▲ 76
Anthropic 官方聲明的 archive.ph 鏡像,原始網址: https://archive.ph/ERGwR