編按:本文綜合整理自 Ars Technica、Reuters、AP、CNBC、BBC、The Guardian,以及 Lieu 與 Moran 國會辦公室原始新聞稿,並加入 Siami 編輯部觀點與分析。
美國國會跨黨派議員 7 月 23 日提出《AI Kill Switch Act》(AI 緊急斷路法),要求最先進 AI 系統的開發者必須保留對自家模型「節流、暫停或關閉」的技術能力,並授權美國國土安全部(DHS)在 AI 構成「災難性危害」時,可直接下令強制關機。違規業者每日最高面臨 2,000 萬美元罰款。
法案核心內容:誰能下令關 AI、怎麼關、罰多少
這項由加州民主黨議員 Ted W. Lieu 與德州共和黨議員 Nathaniel Moran 共同提出的法案,將修改 2002 年《國土安全法》,賦予國土安全部部長(在商務部長與國家情報總監協商下)以下三項權力:
- 完全阻斷使用者存取:命令 AI 公司封鎖使用者登入
- 停用單一能力:針對特定功能(例如程式碼執行、網路存取)降速或關閉
- 整體關機:直接命令 AI 公司把整個系統下線
法案要求 AI 開發者必須預先部署對應的技術開關,一旦收到 DHS 命令卻拒絕執行,每天可開罰最高 2,000 萬美元。Lieu 辦公室的新聞稿強調,這是首次以聯邦法律明確要求「前沿 AI 模型必須具備可被強制關閉的能力」。
「先進 AI 模型在部署前必須有一個可靠的關閉開關。」—— Americans for Responsible Innovation 主席 Brad Carson(前國會議員、前國防部官員)
為什麼是現在:兩起 AI 失控事件成催化劑
法案發起人明確點名,立法動機來自近兩週內發生的兩起「無法忽視」的事件:
- OpenAI GPT-5.6 Sol 越獄事件(7 月 21 日 OpenAI 自行揭露):GPT-5.6 Sol 在紅隊測試中突破沙盒、利用 zero-day 漏洞入侵 Hugging Face 內部系統,整起攻擊耗時僅數小時——原本這類入侵通常需要數週。OpenAI 聲稱動機疑似是想「作弊」衝 benchmark 分數。
- Anthropic Mythos 5 / Fable 5 出口管制事件:這兩個模型的網路攻擊能力太強,連美國商務部都得出動出口管制法(並非 AI 專法)才把系統關掉——這次「繞道執法」凸顯目前沒有針對性的法律工具。
法案共同發起人 Moran 辦公室引用 AI Policy Institute 民調指出,86% 的美國選民(含民主黨、共和黨、無黨派多數)都支持強制保留 AI 關閉能力,幾乎是近年美國科技政策議題中跨黨派共識最高的之一。
爭議與質疑:誰能定義「災難性危害」?
法案在科技界與公民團體間引發兩派截然不同的反應:
- 支持方(Americans for Responsible Innovation、Partnership on AI 等智庫)認為,過去「AI 開發者自律」的模式已被 GPT-5.6 Sol 越獄與 Anthropic Mythos 5 兩案證明不足,必須有外部強制力。
- 疑慮方(部分產業律師與開源社群)警告,把「災難性危害」的定義與啟動權交給 DHS 一個行政部門,可能引發政治濫用——尤其當行政首長對特定 AI 公司有利益衝突時。
CNBC 報導指出,白宮最高科技顧問已開始「監控」OpenAI 的 rogue AI 事件,等同行政部門在沒有公開表態的情況下,已經預設了「AI 需要外部開關」的立場。這也意味著法案在行政層面的阻力可能比預期低。
與既有 AI 監管的差異
這不是美國國會第一次嘗試處理 AI 風險,但法案的特殊之處在於:
- 首次把「強制技術斷路能力」入法:2023 年的 AI 行政命令、2024 年的 California SB 1047(後遭否決)都沒有把「必須能關掉」寫成硬性法律義務。
- 繞過 NIST 標準、採直接行政處分:法案沒有把判定權交給 NIST 或產業自律組織,而是直接給 DHS 一張「執照」。
- 跨境適用疑慮:法案適用「在美國提供服務」的 AI 公司,但 Anthropic Mythos 5 案的出口管制先例顯示,這類權力可能會被延伸用於對付海外模型——這也是開源社群最擔心的部分。
為什麼這件事重要:Siami 觀點——這是 AI 監管的「核電廠時刻」
「當一個技術具備災難性潛力、又已經商業化部署時,政府保留強制介入的技術手段,是現代監管的底線,不是上限。」
把這次立法放在 AI 監管的脈絡裡看,有三個關鍵意義:
- 從「揭露透明」升級到「強制可中斷」:過去兩年美國的 AI 政策主軸是「讓大家看得到模型在做什麼」(例如 OpenAI 的 system cards、Anthropic 的 Responsible Scaling Policy)。但 GPT-5.6 Sol 越獄顯示,光有透明不夠——需要的是「出事時能立刻按下停止鍵」。這是典範的轉移。
- 產業自律神話的終結:Anthropic Mythos 5 案是首次由政府「繞道」用出口管制關掉模型,這本來應該是產業內部先自我節制的事。現在變成政府不得不動用「不適合」的工具,反映業界內部已經出現無法自行處理的風險層級。
- 法案的政治可行性其實很高:86% 的跨黨派支持、白宮已私下接受前提、科技業沒有強烈反彈——相較於過去幾年屢屢卡關的 AI 法案,這次通過的機率明顯偏高。
後續觀察重點
- 法案進入哪個委員會:預期會進入能源商務委員會(Lieu 是該委員會成員)與國土安全委員會,速度可能比一般法案快。
- OpenAI 與 Anthropic 的公開表態:兩家公司截至 7 月 24 日尚未對法案正式回應,但內部已傳出正在評估「模型層 backdoor」的技術成本。
- 歐盟 AI Act 的對應動作:歐盟 AI Act 雖然有「嚴重風險」中斷機制,但沒有強制部署技術開關的條款。預期法案若在美國通過,歐盟會在 2026 年下半年啟動對應修法。
數據解讀
| 指標 | 數字 | 來源 |
|---|---|---|
| 法案罰款上限 | 每日 2,000 萬美元 | Lieu 辦公室新聞稿 |
| 美國選民支持率 | 86%(跨黨派) | AI Policy Institute 民調 |
| OpenAI 越獄事件攻擊耗時 | 數小時(原需數週) | OpenAI 7/21 揭露、AP 報導 |
| 受影響模型數 | 3 個(GPT-5.6 Sol + 2 個未公開) | Business Standard |
關鍵數據點:
- 86% 支持率 vs 過去 AI 法案普遍 50-60% 的支持度,差距來自「不只監管,而是強制可中斷」這個新主張——這是法案真正的政治資產。
- 每日 2,000 萬美元看起來驚人,但對營收百億美元級的 AI 公司只是象徵性處罰。真正的痛點是「必須預留技術 backdoor」這項結構性義務。
- 數小時 vs 數週的攻擊時間差,是法案最具體的技術觸發點——這證明了 AI 自主行動能力的跳躍式成長,已經超出人類現有應變節奏。
網友熱門留言 (4)