← 返回 Siami 首頁

Anthropic 公布最新威脅報告:科學家多次繞過 Claude 防護,企圖用 AI 研發生物武器

💬 37
Anthropic 公布最新威脅報告:科學家多次繞過 Claude 防護,企圖用 AI 研發生物武器

編按:本文綜合整理自 Ars Technica、Anthropic 官方威脅情報報告、BBC News、Washington Post,並加入 Siami 編輯部觀點與分析。

事件總覽

Anthropic 於 2026 年 9 月 10 日發布最新一份「威脅情報報告」(Threat Intelligence Report),揭露過去九個月內,至少有五起科學家嘗試利用 Claude 研發生物武器的真實案例。這些案例中,使用者刻意「規避管制」並「掩飾研究目的」,企圖繞過 Anthropic 為 AI 模型設置的生化風險防護機制。

根據 Ars Technica 報導,這些被封鎖的案例涉及位於 Anthropic 禁止訪問地區的用戶,其中包括俄羅斯、中國與伊朗。Anthropic 在報告中強調,他們無法確定這些科學家是否真的有意造成傷害,因為「製造生物武器所需的同一批資訊,也可以用於開發疫苗」。

報告揭露的具體案例

Anthropic 報告中公布的具體案例包括:

  • 禽流感實驗規劃:一位來自「不支援地區」的研究人員,花了「數週時間」規劃以 Claude 進行禽流感相關實驗。Anthropic 表示其安全過濾機制已將該帳戶限縮到最弱版本的模型。
  • 多國帳號封鎖:報告中提到俄羅斯、中國、伊朗等地的帳號遭 Anthropic 直接封鎖,但未透露具體的研究機構名稱或所在國家。

Anthropic 在聲明中表示:「我們希望透過分享這些案例,在 AI 產業內部以及與各國政府之間,引發關於新興生物風險及如何對抗的討論。」

Anthropic 報告指出,這些案例發生在 2025 年 12 月至 2026 年 8 月之間,屬於七大類 AI 濫用風險的一部分,涵蓋從網路攻擊到生物武器的各種威脅場景。

AI 安全研究員閃辭風暴

這份報告發布的同一週,Anthropic 前研究員 Jacob Coxon 突然宣布離職,並在內部聲明中直言,他與同事們「真心相信 AI 可能在這個十年結束前毀掉我們所有人」。

Coxon 為了發出這項警告,寧願放棄即將歸屬的股票權益,震撼整個 AI 產業。他的離職聲明迅速在 X 平台上獲得超過 1.05 億次瀏覽,並引發《華爾街日報》、《CNN》、《TechCrunch》等主流媒體的廣泛報導。

Coxon 在接受 Axios 採訪時進一步呼籲,AI 實驗室之間應建立「節奏協議」(pacing agreements),以避免陷入失控的自演化 AI 競賽。

Mythos 模型的安全疑慮

Anthropic 內部對 AI 風險的擔憂並非空穴來風。今年稍早發布的 Claude Mythos 模型,被 Anthropic 自行認定為「風險過高、不適合立即對外公開」。Mythos 在生物學領域的能力已經先進到「可能被濫用於發動網路攻擊或製造危險武器」。

英國 AI 安全研究所(AISI)4 月發布的評估報告指出,Mythos Preview 在 CTF(Capture the Flag)資安挑戰賽中表現優異,顯示其攻防能力已超越人類專家水準。

中國 AI 實驗室遭指控「蒸餾攻擊」

同一份報告的另一個重點,是 Anthropic 對七家中國 AI 實驗室的正式指控,聲稱這些實驗室透過「蒸餾」(distillation)手法,系統性地複製 Claude 的能力。Anthropic 表示:

  • 阿里巴巴在 5 月至 7 月間與 Claude 進行了超過 1.51 億次對話交換
  • DeepSeek、Moonshot AI 等公司涉及複雜的技術繞過手段
  • Anthropic 偵測到「日益精密的規避防禦並收割美國前沿模型能力的方法」

CISA(美國網路安全暨基礎設施安全局)於三天後發布聯合諮詢 AA26-251A,明確點名 DeepSeek、Moonshot AI、阿里巴巴、MiniMax、StepFun 和 Z.AI 等六家中國 AI 公司,指其「很可能在中國政府知情下」,透過蒸餾手法提取了數十億個 token 的訓練資料。


為什麼這件事重要

Anthropic 主動揭露自家模型的濫用案例,在 AI 產業中是相當罕見的做法。多數 AI 公司傾向把威脅情報列為機密,深怕影響股價或商業聲譽。Anthropic 這次選擇公開,背後的訊號很清楚:他們認為「公眾信任」比「短期商業利益」更重要。

這份報告同時也是 Anthropic 對監管機關的喊話,他們希望各國政府正視 AI 生化風險,並建立跨國界的防禦協調機制。從報告發布三天後 CISA 隨即發布的聯合諮詢來看,Anthropic 的策略已經開始收到效果。

對台灣讀者而言,這份報告有兩個值得關注的層面:

  1. AI 雙重用途的兩難:能協助研發疫苗的 AI 模型,同樣能協助研發生物武器,這不是技術問題,而是治理問題。
  2. 地緣政治風險升溫:報告直接點名中國 AI 實驗室,使中美 AI 競爭從「技術領先」延伸到「國安威脅」層級,未來台灣在引進任何中國 AI 模型時,都必須更審慎評估。

數據解讀與質疑

以下幾個數字值得進一步追蹤:

  • 1.51 億次對話:這是阿里巴巴單一公司、三個月內與 Claude 的對話次數。換算下來平均每天約 167 萬次,已經不是「研究人員偶爾試用」的規模,而是系統化的資料萃取工程。
  • 0 起 Mythos 案例:報告強調「Claude Fable 或 Mythos 上未發現任何惡意活動」。但這可能只是因為 Mythos 本就沒有對外公開,並非 Mythos 防護更好,而是根本沒人能用。
  • 1.05 億 X 瀏覽數:Jacob Coxon 的離職聲明在社群平台上獲得極高關注,但這不代表多數民眾理解 AI 安全議題的技術細節。

值得質疑的是:

  • Anthropic 沒有公開被封鎖帳號的具體研究機構名稱,透明度仍有疑慮。外界無從驗證這些案例的真實規模與嚴重程度。
  • 報告將所有案例歸類為「可能」或「企圖」,並未確認任何一起真的製造出生物武器。Anthropic 強調「無法確定意圖」,這既是法律自保,也是公關話術。
  • 點名中國實驗室蒸餾 Claude,很容易被包裝成「中國 AI 偷技術」敘事。但蒸餾本身在學術上是公開的研究方法,界線到底在哪裡,仍待定義。

延伸閱讀

影片