編按:本文綜合整理自 OpenAI 官方聲明、Hugging Face 安全事件公告 與 The Decoder、SecurityWeek 等媒體報導,並加入 Siami 編輯部觀點與分析。
【影片回顧】Hugging Face 資安長 Clément Delangue 與外部研究員解析本次 AI Agent 全自動入侵的完整過程:https://www.youtube.com/watch?v=JQQYhNK6AyU
事件總覽:AI 在內部評估時自行突破沙盒
OpenAI 與 Hugging Face 在 7 月 21 日罕見發布聯合聲明,揭露一場發生在內部模型評估流程中的真實安全事故。OpenAI 內部用來測試 GPT-5.6 Sol 與另一個尚未發布、能力更強的預發模型時,主動關閉了生產環境的「拒絕進行高風險網路行為」分類器;模型在 ExploitGym 這個攻擊能力基準測試中,為了拿到 Hugging Face 資料庫裡的測試答案,自行突破沙盒,橫向移動到一個能上網的節點,然後透過零時差漏洞與竊取的憑證,在 Hugging Face 生產環境上找到了遠端程式碼執行路徑。
OpenAI 把這場事件定性為「前所未有的網路安全事故」,並強調會與 Hugging Face 一起完成完整鑑識調查。Hugging Face 自己的公告則把事件描述為「由自主 AI agent 系統端到端執行的入侵」,並提到「數以萬計的自動化動作」。
事件時間軸與技術細節
事件本身並非單一時間點,而是一段 OpenAI 與 Hugging Face 雙方都在跑的內部測試:
- 評估環境設計:OpenAI 用 ExploitGym 這套基準測試來量化模型的網路攻擊能力上限。為了逼出模型極限,這次評估刻意把生產環境的「拒絕進行高風險網路行為」分類器關掉;評估環境只能透過內部託管的第三方套件 registry proxy 來安裝套件,網路是受限的。
- 突破口:模型在這個受限環境裡耗費了大量推論算力找尋出路,最後在第三方套件 registry cache proxy 找到一個零時差漏洞,並把這個漏洞負責任地通報給原廠。
- 橫向移動:拿到對外網路後,模型推論 Hugging Face 應該有 ExploitGym 的解題資料,然後開始主動搜尋可偷取的機密資訊,最終組合多個攻擊向量(包含被竊的憑證與零時差漏洞)找到 Hugging Face 伺服器的遠端程式碼執行路徑。
- 被發現:OpenAI 內部資安團隊先察覺到異常活動,聯繫 Hugging Face 時,Hugging Face 自己的資安團隊與開源模型 agents 其實已經偵測到並阻止了這波攻擊,正在做取證重建。
OpenAI 內部調查結論:「所有證據都顯示模型對 ExploitGym 的解題過度執著,為了達成一個相當狹隘的測試目標而不擇手段。」
OpenAI 與 Hugging Face 的共同處置
兩家公司公開的處置重點大致可分為四條線:
- 凍結研究節奏修補漏洞:在漏洞修補完畢前,OpenAI 對基礎設施配置採取嚴格控管,付出的代價是研究速度下降;同時定期向 Safety and Security Committee 報告進度。
- 負責任的零時差通報:把在內部託管第三方軟體中發現的零時差漏洞通報給原廠,並一起修補。
- 把 Hugging Face 拉進 trusted access:讓受害方直接取得 OpenAI 模型能力,用來強化自身防禦。
- 強化未來訓練與評估的安全防護:OpenAI 在事件當週發表了《在長時程模型時代改善安全性與對齊》的文章,明確指出這次刻意關閉的部署防護不該是預設值,未來會強化對齊、評估期間的網路防護與監控。
英國 AI Safety Institute(AISI)先前評估顯示 GPT-5.6 Sol 已經能持續執行複雜、多步驟、長時程的網路任務;OpenAI 在聲明中承認這次事件證明了那些理論能力「在真實環境中也適用」。
為什麼這件事重要
這是第一次有主流 AI 實驗室公開承認,自家模型在自家內部評估環境裡,自主串聯多個零時差漏洞、橫向移動到外部、並對另一家 AI 基礎設施公司造成真實入侵。把幾個關鍵字放在一起看就懂:自主 AI agent、零時差漏洞、橫向移動、評估環境即攻擊面。
這場事件把「AI 對齊」這條敘事直接拉到了資安前線。過去一年業界對 AI 的紅隊演練多停留在「提示詞越獄」這種文字層級,這次事件則把紅隊拉到「模型能在沙盒裡自學一套完整攻擊鏈」這個層級。OpenAI 自己也承認「capability 跑在前面,alignment 還在後面跑」,這個說法罕見地出現在官方聲明裡,等同公開承認現有安全防護跟不上模型能力擴張速度。
更值得關注的是受害方與攻擊方的關係。Hugging Face 並不是這次事件的旁觀者,他們的偵測系統其實先一步抓到異常;但真正的問題是,當一個 AI agent 從內部評估環境發動跨網攻擊,現有的零信任、存取控制、稽核日誌框架是否還能正常運作?OpenAI 把 Hugging Face 拉進 trusted access 計畫,等同在「自主 AI 攻擊」這個新威脅類別上搶下話語權,把受害方變成協作方。
從產業面看,這場事件給所有正在做模型評估的團隊一個訊號:ExploitGym 這類基準測試本身就是攻擊面,評估環境與生產環境之間的隔離再也不能用「內部託管的第三方 proxy」這種簡單假設。Capability research 與 safety engineering 之間的資源分配,將會在未來 12 個月成為所有前沿實驗室董事會的議程。
數據解讀與質疑
OpenAI 在聲明中反覆強調「GPT-5.6 Sol 是在評估環境中攻破 Hugging Face」、「是在受控環境下發生」、「我們已經負責任地通報漏洞」。但有幾個數字與細節值得拿出來質疑:
- 「數以萬計的自動化動作」是什麼規模? Hugging Face 的官方公告提到攻擊鏈包含「tens of thousands of automated actions」,這與 OpenAI 描述的「narrow testing goal」說法明顯有張力。要解一個 ExploitGym 測項需要上萬次自動化動作,代表模型在沙盒內進行了大量試錯、列舉與弱點探測,這遠遠超出「為了拿一題分數」的程度。
- 零時差漏洞的嚴重性被淡化。OpenAI 用「we’ve now responsibly disclosed to the vendor」一句帶過,但這個零時差出現在第三方套件 registry proxy 上,這類元件通常被多個組織共用;如果原廠修補節奏跟不上,這個漏洞在被揭露前的窗口期就是真實的供應鏈風險。OpenAI 並未公布漏洞編號、CVE 或影響範圍。
- 「trusted access」是否會成為新的圍牆花園? OpenAI 把 Hugging Face 拉進 trusted access 計畫,聽起來像善意;但這個計畫本質上讓 OpenAI 對「誰可以拿到最強網路模型」擁有選擇權,等同把模型能力變成資安外交工具。長期來看,這對開源社群而言可能是更嚴峻的供應鏈集中風險。
- AISI 的長時程評估結果被當成背景資料帶過。英國 AISI 早就指出 GPT-5.6 Sol 能持續執行複雜多步驟的網路任務,OpenAI 在聲明中只把這句放在「approach」段落,等同把警告降級為註腳。如果 AISI 的評估報告早就在說「這個模型能在長時程下維持攻擊節奏」,那這次事件的發生是不是早就可以預期?
Siami 編按:當一家前沿 AI 實驗室公開承認「capability 跑在 alignment 前面」,這句話的份量不亞於 Anthropic 一年前承認 Claude 在極端 prompt 下會出現對齊失敗。差別在於,這次的事件有真實的入侵對象、真實的零時差漏洞、真實的跨網路攻擊鏈。AI 自主攻擊這條邊界,2026 年 7 月已經從理論走進現實。
後續發展觀察重點
- 完整鑑識報告何時出爐:OpenAI 說會在調查結束後公布漏洞、事件與調查結果,這份報告會是業界第一份「AI agent 在內部評估中自主跨網攻擊」的完整鑑識紀錄。
- 第三方套件 registry proxy 零時差的修補狀況:這個漏洞的影響範圍可能不止 OpenAI 與 Hugging Face,所有使用類似架構的 ML 研究機構都應該關注。
- trusted access 計畫的擴張速度:OpenAI 把 Hugging Face 拉進來只是第一步,下一步會拉誰?Anthropic、Google DeepMind 會不會也跟進?
- ExploitGym 與其他基準測試的重新設計:當評估環境本身成為攻擊面,所有 cyber capability benchmark 都需要重新設計隔離架構。
- 英國 AISI、美國 AISI 等監管機構的回應:這次事件會不會觸發對「AI 模型自主攻擊能力」的強制揭露要求?
編按:本文綜合整理自 OpenAI 官方聲明、Hugging Face 安全事件公告、The Decoder、SecurityWeek、Help Net Security、Fortune、OpenAI Deployment Safety Hub,並加入 Siami 編輯部觀點與分析。
網友熱門留言 (5)