美國政府以國家安全為由,於週五傍晚對 Anthropic 下達出口管制指令,要求該公司立即暫停所有外國國民(包括身處美國境內外者,以及 Anthropic 自身的外籍員工)對 Claude Fable 5 與 Claude Mythos 5 的存取權限。由於無法在技術上區分用戶國籍,Anthropic 別無選擇,只能全面關閉這兩款模型對所有客戶的服務,確保合規。其餘 Claude 模型不受影響。
Anthropic 於美東時間下午 5 時 21 分收到政府來函,但信件並未具體說明國家安全疑慮的技術細節。Anthropic 的理解是,政府聲稱掌握了一種繞過 Fable 5 安全防護(俗稱「越獄」)的方法。公司內部審查了這項技術展示後發現,該越獄只能用於找出少量已知且輕微的軟體漏洞,且這些漏洞同樣可被其他公開模型輕易發現,完全無需繞過防護機制。
Anthropic 在聲明中重申其對 Fable 防護機制的一貫立場:
「我們已建立強大的防護措施,大幅降低 Fable 被用於網路安全等高風險用途的可能性。事實上,這些防護嚴格到許多使用者抱怨過於廣泛。」
「Fable 上市前數週,Anthropic 與美國政府、英國 AI Safety Institute(AISI)、多家第三方機構及內部團隊合作,總共進行了數千小時的紅隊演練。」
「測試結果顯示,Fable 的防護機制效果遠優於過往任何已部署的模型。」
「目前為止,沒有任何測試者找到所謂的『通用型越獄』——也就是能廣泛繞過模型防護、解鎖各種網路攻擊能力的方法。」
Anthropic 坦言,完美的越獄防禦在現階段對任何模型供應商而言都不可能實現。業界所有防護機制都難以抵禦「非通用型越獄」(在特定情境下能套出部分網路資訊的攻擊),而通用型越獄在未來被發現也只是時間問題。Anthropic 在 Fable 5 發表時便已公開說明此一觀點。
考量到完美防禦目前尚不可行,Anthropic 為 Fable 5 採取了「縱深防禦」策略:目標是讓越獄攻擊在「非通用型」案例中保持範圍狹窄,或在「通用型」案例中需付出極高成本才能達成,並結合嚴密的監控機制,儘速偵測並阻斷任何成功的攻擊。這也是 Anthropic 對 Fable 用戶實施 30 天資料保留政策的原因——這項政策雖對客戶關係造成實質成本,卻讓公司得以研究並緩解相關威脅。
Anthropic 進一步指出,政府目前僅以口頭方式提供了潛在的「非通用型越獄」證據,本質上就是要求模型閱讀特定程式碼庫並修補軟體瑕疵的能力。Anthropic 表示,據其所知,這項潛在越獄是有人主動向政府舉報的。公司已審閱了據信是政府指令依據的報告,並驗證報告中所展示的能力,實際上在其他模型(包括 OpenAI 的 GPT-5.5)上同樣可得,而且是網路安全防禦者每天都在使用的常規功能。Anthropic 承諾將在 24 小時內公布更多技術細節。
雖然公司強調會遵守政府的法律指令,並已著手移除所有用戶對 Fable 5 與 Mythos 5 的存取權限,但 Anthropic 對「因一項狹隘的潛在越獄就召回一款已部署給數億人使用的商業模型」的做法明確表達異議。Anthropic 警告,若此一標準套用於整個產業,實質上將凍結所有前沿模型供應商的新模型部署。
Anthropic 重申其公開立場:政府應有權在不安全部署發生時予以阻擋,但過程必須遵循透明、公平、明確且以技術事實為基礎的法定程序。「本次行動並未遵循上述原則,」聲明寫道。
最後,Anthropic 為對客戶造成的中斷致歉,並表示公司相信這是一場誤解,正積極與政府合作,爭取盡速恢復存取權限。
網友熱門留言 (5)