← 返回 Siami 首頁

美國政府下令全面下架 Fable 5 與 Mythos 5 Anthropic:別無選擇,只能照辦

▲ 1,308 💬 855
美國政府下令全面下架 Fable 5 與 Mythos 5 Anthropic:別無選擇,只能照辦

美國政府以國家安全為由,於週五傍晚對 Anthropic 下達出口管制指令,要求該公司立即暫停所有外國國民(包括身處美國境內外者,以及 Anthropic 自身的外籍員工)對 Claude Fable 5 與 Claude Mythos 5 的存取權限。由於無法在技術上區分用戶國籍,Anthropic 別無選擇,只能全面關閉這兩款模型對所有客戶的服務,確保合規。其餘 Claude 模型不受影響。

Anthropic 於美東時間下午 5 時 21 分收到政府來函,但信件並未具體說明國家安全疑慮的技術細節。Anthropic 的理解是,政府聲稱掌握了一種繞過 Fable 5 安全防護(俗稱「越獄」)的方法。公司內部審查了這項技術展示後發現,該越獄只能用於找出少量已知且輕微的軟體漏洞,且這些漏洞同樣可被其他公開模型輕易發現,完全無需繞過防護機制。

Anthropic 在聲明中重申其對 Fable 防護機制的一貫立場:

「我們已建立強大的防護措施,大幅降低 Fable 被用於網路安全等高風險用途的可能性。事實上,這些防護嚴格到許多使用者抱怨過於廣泛。」

「Fable 上市前數週,Anthropic 與美國政府、英國 AI Safety Institute(AISI)、多家第三方機構及內部團隊合作,總共進行了數千小時的紅隊演練。」

「測試結果顯示,Fable 的防護機制效果遠優於過往任何已部署的模型。」

「目前為止,沒有任何測試者找到所謂的『通用型越獄』——也就是能廣泛繞過模型防護、解鎖各種網路攻擊能力的方法。」

Anthropic 坦言,完美的越獄防禦在現階段對任何模型供應商而言都不可能實現。業界所有防護機制都難以抵禦「非通用型越獄」(在特定情境下能套出部分網路資訊的攻擊),而通用型越獄在未來被發現也只是時間問題。Anthropic 在 Fable 5 發表時便已公開說明此一觀點。

考量到完美防禦目前尚不可行,Anthropic 為 Fable 5 採取了「縱深防禦」策略:目標是讓越獄攻擊在「非通用型」案例中保持範圍狹窄,或在「通用型」案例中需付出極高成本才能達成,並結合嚴密的監控機制,儘速偵測並阻斷任何成功的攻擊。這也是 Anthropic 對 Fable 用戶實施 30 天資料保留政策的原因——這項政策雖對客戶關係造成實質成本,卻讓公司得以研究並緩解相關威脅。

Anthropic 進一步指出,政府目前僅以口頭方式提供了潛在的「非通用型越獄」證據,本質上就是要求模型閱讀特定程式碼庫並修補軟體瑕疵的能力。Anthropic 表示,據其所知,這項潛在越獄是有人主動向政府舉報的。公司已審閱了據信是政府指令依據的報告,並驗證報告中所展示的能力,實際上在其他模型(包括 OpenAI 的 GPT-5.5)上同樣可得,而且是網路安全防禦者每天都在使用的常規功能。Anthropic 承諾將在 24 小時內公布更多技術細節。

雖然公司強調會遵守政府的法律指令,並已著手移除所有用戶對 Fable 5 與 Mythos 5 的存取權限,但 Anthropic 對「因一項狹隘的潛在越獄就召回一款已部署給數億人使用的商業模型」的做法明確表達異議。Anthropic 警告,若此一標準套用於整個產業,實質上將凍結所有前沿模型供應商的新模型部署。

Anthropic 重申其公開立場:政府應有權在不安全部署發生時予以阻擋,但過程必須遵循透明、公平、明確且以技術事實為基礎的法定程序。「本次行動並未遵循上述原則,」聲明寫道。

最後,Anthropic 為對客戶造成的中斷致歉,並表示公司相信這是一場誤解,正積極與政府合作,爭取盡速恢復存取權限。

網友熱門留言 (5)

#1 Hacker News 網友 ▲ 412
這是 AI 監管的分水嶺事件。一個政府能在 24 小時內下架全球最先進的商業模型,而且是因為一個「其他模型也有的能力」——這標準若套用,等於宣告前沿 AI 創新凍結。
#2 Hacker News 網友 ▲ 287
重點是:政府沒有具體技術細節,只有口頭證據,然後要 Anthropic 在當天晚上就關掉。沒有透明、沒有正當程序、沒有時間反駁。這對任何在 AI 產業工作的人都是警訊。
#3 Twitter AI 研究員 ▲ 198
Anthropic 的回應很關鍵——他們沒有否認有越獄,只是說那個越獄在 GPT-5.5 也能做到。這代表政府挑了「比較老實的那家」開刀,因為其他公司會裝死。
#4 Hacker News 網友 ▲ 156
我昨天才剛把 Fable 5 接上 production,結果今天整個 API 回 403。我只好把所有 fallback 邏輯啟動,改回 Claude Opus 4.5。Anthropic 那句「很抱歉造成客戶不便」對我們這些 on-call 的人實在沒什麼安慰。
#5 Twitter 網友 ▲ 124
如果這是單一政府的單一決定,問題還不大。但若所有 AI 模型在所有國家都得被這樣召回去「修一個其他模型也有的漏洞」,那整個產業就準備好了——以後每次新模型上市,都會有人舉報然後被下架。