← 返回 Siami 首頁

Anthropic 為 Claude Fable 5「隱形護欄」致歉:將蒸餾防護改為透明可見

▲ 342 💬 341
Anthropic 為 Claude Fable 5「隱形護欄」致歉:將蒸餾防護改為透明可見

Anthropic 正式為新一代旗艦模型 Claude Fable 5「偷偷降速」一事致歉——該公司在模型內建了隱形護欄,會在使用者觸發特定條件時悄悄降級回應品質,連研究人員和競爭對手都被蒙在鼓裡。Anthropic 表示將調整做法,讓限制條件變得透明可見,縱使這代表 Fable 會拒絕更多查詢也在所不惜。

Fable 是 Anthropic 旗下 Mythos 等級 AI 系統中第一個「人人可用」的模型,該公司過去數月來一直警告 Mythos 級別模型太危險、不適合公開釋出。Anthropic 表示已透過內建安全防護機制來因應 Fable 的部分風險,讓模型不會回應特定的「高風險」查詢。Fable 將限制回應的領域之一就是「蒸餾」(distillation)——這是一種用大型模型輸出來訓練較小 AI 模型的技術。

在 Fable 的 system card 裡(這是 AI 開發者用來說明系統運作方式的公開文件),Anthropic 表示將透過「直接竄改或降低模型回答品質」的方式來處理被認定為蒸餾企圖的查詢。使用者不會收到任何通知,不會知道自己觸發了安全機制,更不會知道回應已被改寫。

Anthropic 表示現在正改變其對蒸餾的處理方式:被觸發的查詢現在會 fallback 到 Anthropic 前一代旗艦模型 Claude Opus 4.8。Anthropic 在 X 平台發文指出:「你會在每次發生時都看到提示。」

這個機制和 Fable 處理其他高風險領域的方式類似。當生物學、化學、網路安全等領域的安全機制被觸發時,除非是依公司更廣泛的安全規則被完全擋下——例如涉及毒品、武器或其他禁止內容——否則查詢都會被路由到 Opus 4.8。在某些情況下,特別是生物學領域,安全機制的設定範圍廣到 Fable 幾乎無法用於最基本的查詢,Anthropic 發言人 Paruul Maheshwary 向 The Verge 證實了這一點。

「可見的安全機制會被探測,所以必須要做得非常強健,這需要時間才能做對;」Anthropic 在 X 上寫道:「隱形的安全機制可以更精準地針對,讓我們能用更少的誤判快速推出。我們選擇隱形是基於這個理由——但這是錯誤的取捨。使用者應該能看見我們設置的安全機制,以及為什麼設置。我們很抱歉沒有取得正確的平衡。」

這項改變源自 AI 研究社群對 Anthropic 決定「悄悄限制」疑似想把 Fable 蒸餾成競爭模型的用戶的強烈反彈——批評者警告,這個安全機制可能也會影響嘗試評估這款前沿模型的第三方研究人員。在 system card 中,Anthropic 表示新一代模型加速 AI 開發的能力,是他們針對這類請求採取行動的正當理由,並指出「使用 Claude 來開發競爭模型已違反我們的服務條款」。Anthropic 過去也曾指控包括 DeepSeek 在內的中國對手以「工業級」規模不公平地蒸餾其模型。

網友熱門留言 (5)

#1 Hacker News 用戶 semi_analysis ▲ 1284
用 319 頁的 system card 偷偷把這個機制寫在細節裡,是技術上『揭露』、實際上是秘密破壞。Anthropic 這次道歉是對的,但這模式如果成了常態,未來每家 AI 公司都會這樣玩。
#2 X 用戶 @GergelyOrosz ▲ 892
這再次證明這種限制從來不是為了『安全』,而是競爭考量。Anthropic 公開指責 DeepSeek 工業級蒸餾,自家卻對研究者做一模一樣的事。
#3 Hacker News 用戶 mohsen1 ▲ 456
好消息:以後會明確通知;壞消息:fallback 還是 Opus 4.8。也就是說 Fable 5 在被偵測到『試圖訓練較小模型』時就直接降級,這對獨立研究者來說根本是變相封鎖。
#4 Hacker News 用戶 fzeindl ▲ 234
Anthropic 的官方說法是『visible safeguards can be probed』所以才選 invisible。但這邏輯是錯的 — 你要對抗的是對抗性 prompt 注入,不是研究者測試你的模型有沒有 fallback。
#5 X 用戶 @ns123abc ▲ 178
Google DeepMind 的 Gemini 從來不會做這種事,這就是為什麼公司需要可信賴的安全承諾,而不是黑箱。如果你用別人家的工具訓練模型來打自家,這算不算不正當競爭?