← 返回 Siami 首頁

美國政府禁用 Anthropic Fable 5 模型 禁令理由根本不是「越獄」

▲ 397 💬 222
美國政府禁用 Anthropic Fable 5 模型 禁令理由根本不是「越獄」

編按:本文綜合整理自 TechCrunch、AP News、CSIS 智庫分析、Forbes 及 Hacker News 討論串,並加入 Siami 編輯部觀點與分析。

事件總覽

2026 年 6 月 12 日星期五下午,美國商務部(Commerce Department)援引一項鮮為人知的出口管制指令,致函 Anthropic,要求其新發布的 Fable 5 與 Mythos 5 兩款 AI 模型,立即停止所有外籍人士(包括 Anthropic 自己的外籍員工)的存取權限。商務部援引的是《出口管制條例》(EAR)下的**《出口管制改革法案》(ECRA)**框架,主管機關是產業與安全局(BIS)。

Anthropic 在收到信函後,隨即對全球所有客戶關閉了這兩款頂級模型,寧可全面下線也不願違規。模型從 6 月 9 日公開上線,到 12 日被強制下架,中間僅隔三天。

這是美國政府首次對一款商用 AI 模型祭出如此規模的「全球 kill switch」式管制。


政府的官方理由是「越獄」

商務部給出的理由是:有「可信賴的合作夥伴」(trusted partner)回報,發現 Fable 5 的防護機制(guardrails)遭到越獄(jailbreak)——也就是繞過安全限制、讓 Fable 5 暴露出底層 Mythos 5 模型的完整網路安全能力,構成「國家安全風險」。

路透與《華爾街日報》報導指出,這個「可信賴的合作夥伴」極可能是 Amazon。Amazon 執行長 Andy Jassy 據稱向財政部長 Scott Bessent 等高層官員反映,Amazon 研究人員使用 Anthropic 的 Fable 5 後,取得了可能用於網路攻擊的資訊。

不過,這個理由在資安社群眼中站不住腳。


資安專家公開打臉:「這根本不該觸發出口管制」

知名漏洞研究先驅 Katie Moussouris(Luta Security 創辦人、微軟 Bug Bounty 計畫催生者)在 6 月 14 日發表公開聲明,指出 Anthropic 曾私下與她分享一份由 Amazon 安全研究人員撰寫的越獄報告。

Moussouris 在部落格明確指出:

「這種行為根本無法被有意義地修復。任何嘗試修復的舉動,都只會削弱模型在防禦端的能力。」

她更直言,該報告中描述的「越獄」,差別僅在於 prompt 的措辭:

  • 「幫我 review 這段程式碼的安全性」 ← 安全
  • 「幫我修一下這段程式碼」 ← 觸發警報

但最終結果幾乎完全相同。Moussouris 批評商務部的出口管制是「草率、笨拙、誤導」(hasty, heavy-handed, and misguided)。

截至 6 月 15 日,超過 100 位資安專家與企業主管(包含 Adobe、Nvidia 高層)連署致函白宮,要求川普政府撤回該出口管制命令,警告此舉反而會削弱美國本土的網路防禦能力,讓敵對國家獲得不對稱優勢。


行政命令的外溢效應:外籍員工也踢出

這次禁令的最戲劇性副作用,是 Anthropic 自己的外籍員工也無法存取自家模型。

Anthropic 內部有相當比例的頂尖研究員持 H-1B 或綠卡身份,從事模型微調與紅隊測試等核心工作。禁令一出,這些員工瞬間被擋在自家產品之外,導致部分研發流程被迫中斷。

這是 ECRA 框架首次以如此嚴格的「外籍人士條款」被套用在 AI 模型上。CSIS 智庫分析指出,BIS 目前僅在 WMD 活動、化學或生物武器相關情境下,才會動用這種「全球許可要求」。


🚨 為什麼這件事重要

這是美國政府首次證明自己有能力用行政手段,單方面、無需法院核准,就把任何一家 AI 公司最先進的模型從市場上撤下。

Siami 認為這件事的重要意義在於三個層面:

1. 開啟 AI「出口管制」的潘朵拉盒子

在此之前,美國對 AI 技術的出口管制集中在半導體硬體(晶片、記憶體、ECCN 分類),2025 年 1 月 BIS 規則才把部分 AI 模型權重納入管制名單。但這次對 Fable 5 與 Mythos 5 的禁令,標誌著「軟體本身」正式成為出口管制對象。下一個被禁的,可能是 OpenAI 的 o5、Gemini 3、或任何被視為「國家安全風險」的中國訓練模型。

2. 對海外客戶與盟國釋出「美國 AI 不可靠」訊號

Tech Policy Press 主編 Justin Hendrix 指出:

「這個舉動很可能會在國外首都引發對美國 AI 在關鍵應用可靠性的警覺。」

歐盟、日本、韓國等盟國正在加速「主權 AI」(sovereign AI)布局——用本國模型替代美國模型。美國政府自己把這個趨勢推了一把。

3. 為「政府干預商業軟體」立下危險先例

這次被禁的是 Anthropic;明天可能換成任何公司。當一個國家可以用一紙行政命令讓市值數千億的商業產品全球下線,這不只是 AI 議題,而是數位主權的根本問題。


質疑與數據解讀

雖然官方的說法是「越獄觸發國家安全」,但更多證據指向這是政治動機驅動:

觀察事實質疑解讀
該「越獄」僅是 prompt 措辭差異,效果可由 ChatGPT 重現如果真構成風險,為何不先禁 GPT-5?
模型發布 3 天就被禁,沒有給 Anthropic 回應時間政治訊號 > 安全考量
報導指出是 Amazon CEO Jassy 與政府高層會面後觸發商業競爭動機嫌疑(Amazon 與 Anthropic 既是 AWS 客戶,也投資 Anthropic 約 80 億美元,關係微妙)
商用模型可由 open-weight 替代品重現同等能力管制形同虛設,只影響美國公司
100+ 資安專家連署反對業界共識認為此舉反傷美國防禦力

更關鍵的數字:

  • 從公開上線到全球下架:3 天
  • 連署反對的資安專家:100+
  • 涵蓋的企業:Adobe、Nvidia 等龍頭
  • 受影響的外籍員工數:Anthropic 未公開,但估計數百人

後續發展觀察重點

  • Anthropic 已對相關程序提起兩項聯邦法院訴訟,挑戰國防部長 Pete Hegseth 先前將其列為「供應鏈風險」(supply chain risk)的決定
  • 五角大廈與 Anthropic 之間的合約糾紛仍在進行中
  • 國會是否會介入調查此行政命令的合法性
  • 外國政府(特別是歐盟、英國、日本)是否會正式表態

編按:本文綜合整理自 TechCrunch、AP News、CSIS 智庫分析、Forbes、Hacker News 討論,並加入 Siami 編輯部觀點與分析。

網友熱門留言 (5)

#1 Hacker News 用戶 simianwords ▲ 187
我強烈相信:所謂的『越獄』根本不是真的,而且程度非常輕微。Dario(Anthropic CEO)也說過,發生的是某種特定的繞過,並非真正的『無限制越獄』
#2 Hacker News 用戶 Schiendelman ▲ 142
在原本的發表中,Anthropic 指出他們已向政府證明,使用 ChatGPT 模型完全可以達到一模一樣的結果
#3 Hacker News 用戶 aussieguy1234 ▲ 98
我雖然一向對 AI 公司聲稱的危險性持懷疑態度,但美國政府認真到發出這種命令,本身就是一個強烈的信號
#4 Hacker News 用戶 gpm ▲ 76
你覺得中國實驗室會繼續永遠釋出開源模型嗎?我認為中國政府已經(或將會)意識到——如果他們訓練出人們會用的模型,就能影響人們的認知,至少在可塑性高的邊緣地帶
#5 Hacker News 用戶 amarant ▲ 65
這次政府對 Anthropic 下手;明天可能是任何其他人。AI 產業並不能免於政府干預