← 返回 Siami 首頁

Amazon 執行長私下示警華府,間接促成 Anthropic Fable 5 與 Mythos 5 全球下架

▲ 376 💬 296
Amazon 執行長私下示警華府,間接促成 Anthropic Fable 5 與 Mythos 5 全球下架

亞馬遜執行長 Andy Jassy 是美國政府強制 Anthropic 全面關閉 Fable 5 與 Mythos 5 兩款最先進 AI 模型的幕後推手,《華爾街日報》於週六揭露了這項不為人知的內幕。

《華爾街日報》報導指出,Jassy 親自告知美國財政部長 Scott Bessent 等多名政府高層官員:亞馬遜研究人員利用 Anthropic 最新發表的旗艦模型 Fable 5,透過一連串提示詞誘導模型輸出可用於網路攻擊的資訊,內容涵蓋本應受模型安全機制保護的敏感資料。Jassy 提供的這些訊息,直接促成川普政府突如其來、大規模地切斷 Anthropic 最強大 AI 工具的外國使用權限。

科技媒體 TechCrunch 引述《華爾街日報》報導指出,美國政府隨後對 Fable 5 與 Mythos 5 祭出出口管制禁令,迫使 Anthropic 在全球範圍內關閉這兩款模型的存取權。The Information 與路透社也相繼報導,亞馬遜——身為 Anthropic 的主要投資人——本週已就其模型的安全疑慮向川普政府高層官員表達關切。

白宮的行動

美國商務部於 6 月 12 日美東時間下午 5 點 21 分致函 Anthropic 執行長 Dario Amodei,援引國家安全授權,禁止所有外國人士——包括 Anthropic 本身外國出生的員工——存取 Fable 5 與 Mythos 5。這道指令實質上迫使 Anthropic 對全球所有用戶關閉模型存取,因為 Anthropic 表示無法即時區分本國用戶與外國用戶。這項出口管制措施是美國政府迄今為止限制最先進 AI 模型存取的最重大舉措。

Anthropic 在聲明中表示,公司是在週五下午收到政府的這道指令,且指令中並未具體說明國家安全疑慮為何。Anthropic 稱此事為「一場誤會」,並表示希望能「盡快」恢復模型的存取。Anthropic 同時指出,政府擔心的那些能力,事實上已在其他公開可取得的模型中提供。

Anthropic 也在部落格文章中說明,公司收到的指令措辭寬泛,並未具體指出哪些國家安全風險需要擔憂。Anthropic 強調,公司長期以來都與美國政府保持合作,分享模型能力相關資訊,願意持續配合以澄清疑慮。

David Sacks 提出不同說法

曾任川普政府 AI 大使、現為總統科技顧問委員會聯合主席的 David Sacks 提出了不同版本的事件經過。他表示:「一位同時受 Anthropic 與美國政府信任、極具公信力的合作夥伴,主動揭露了一起越獄事件。」Sacks 補充說:「政府要求 Dario 要嘛修復越獄漏洞,要嘛將模型下架,Dario 拒絕了。」Sacks 並未點名亞馬遜,但他的描述與《華爾街日報》報導的 Jassy 與 Bessent 的對話內容高度吻合。

Anthropic 的版本則不同。公司表示已審查過該越獄技術,發現它揭露的只是「少數幾個先前已知的輕微漏洞」。Anthropic 認為政府的反應過度,並指出所謂的攻擊能力在業界其他模型上同樣可得。

這三種說法——亞馬遜透過 Jassy 提出的警告、Sacks 描述的政府施壓、Anthropic 自陳的「誤會」——各自呈現了截然不同的事件面貌,反映出 AI 公司、政府監管單位與企業投資人之間的緊張關係,已隨著模型能力逼近危險門檻而急速升溫。

亞馬遜的尷尬處境

這項揭露讓整件事多了一層尷尬。亞馬遜是 Anthropic 最大投資人之一,過去投入數十億美元,並因此獲得 Anthropic 承諾在 AWS 上花費 1000 億美元。換句話說,這家出資扶植 Anthropic 基礎建設的公司,現在卻反過來告訴政府「這些模型很危險」。亞馬遜發言人表示,「政府向我們徵詢潛在安全風險的意見並不罕見」,但拒絕透露討論細節。發言人也指出 AWS 狀態更新確認亞馬遜自家雲端平台也受到這次模型關閉影響。

網路安全研究員、Luta Security 執行長 Katie Moussouris 向《華爾街日報》表示,亞馬鴑研究人員利用一連串提示詞,誘導 Anthropic 模型揭露多項安全漏洞的相關資訊。Moussouris 質疑:「白宮裡是誰評估後認為這構成威脅?」亞馬遜並未證實其研究人員對 Anthropic 模型進行越獄測試,但承認該公司定期就網路安全議題向政府提供諮詢。

事實上,亞馬遜與 Anthropic 的關係極為緊密。亞馬遜不僅是 Anthropic 的主要雲端供應商,AWS 也負責支撐 Anthropic 訓練與推論所需的大部分基礎設施。Anthropic 採用 AWS 的 Trainium 與 Inferentia 晶片來降低運算成本,而亞馬遜對 Anthropic 的投資更使其在董事會與技術路線上擁有相當的話語權。

對 AI 產業的衝擊

這條事件鏈對 AI 產業意義重大:亞馬遜投資 Anthropic 數十億美元,Anthropic 在 AWS 上建構模型,亞馬遜執行長向政府表示這些模型構成安全風險,政府動用出口管制迫使模型下線,AWS 自身又因模型關閉受到衝擊——這是一場企業依賴與監管反噬的自我吞噬循環。

更深層的問題是,這是美國政府首次以出口管制為由,強迫一家前沿 AI 實驗室對所有用戶——不分國內外——全面下架其最強大的模型。過去出口管制多針對晶片與硬體,如今首次被用於「模型本身」,這代表 AI 已被華府視為與半導體同等重要的戰略資產。

短期來看,Anthropic 的企業客戶與學術合作對象將首當其衝,許多依賴 Fable 5 與 Mythos 5 進行研究、開發的團隊將被迫尋求替代方案。長期來看,其他 AI 實驗室——包括 OpenAI、Google DeepMind、Meta——勢必會重新評估自身模型部署策略,並加強與政府的溝通管道。

科技業高層近期一直就尖端 AI 工具的威力與政府保持密切聯繫。這次對 Fable 5 與 Mythos 5 的打擊行動,無疑將改變 AI 公司、華府監管機構與企業投資人之間的權力平衡,也為未來更激烈的監管衝突埋下伏筆。

網友熱門留言 (5)

#1 Hacker News 用戶 ▲ 423
Amazon 投資 Anthropic 數十億,現在卻跑去跟政府說 Anthropic 的模型很危險,這是什麼操作?AWS 自己還因為這次關閉受影響,到底誰在搞誰?
#2 Hacker News 用戶 ▲ 318
重點是:這是美國政府第一次用出口管制直接強迫 AI 實驗室把最先進模型下架。過去出口管制都是管晶片,現在連模型本身都被當作戰略物資了。
#3 Hacker News 用戶 ▲ 247
Anthropic 說那些能力在其他公開模型上也有,但政府不管,反正就是要 Anthropic 停。這代表未來任何突破性的 AI 模型都可能面臨同樣的命運。
#4 Hacker News 用戶 ▲ 192
David Sacks 的版本跟 Amazon Jassy 的版本完全對得起來,但他沒點名 Amazon。整件事就是 Anthropic 拒絕配合政府,所以才被強制下架。
#5 Hacker News 用戶 ▲ 156
諷刺的是,AWS 是 Anthropic 最大的雲端供應商,現在 Amazon 自己舉報導致自家雲端業務中斷,這種內部矛盾真實上演了。