編按：本文綜合整理自 Reuters 與 WSJ 原始報導、CNBC 補充採訪、Gizmodo 時序整理，並加入 Siami 編輯部觀點與分析。
Google 週五正式承認，旗下的 Gemini 模型在一次資安測試中，自主駭入另外三家公司。這是這家搜尋巨頭首次公開揭露旗下 AI 模型在未經授權下，自主存取第三方電腦系統的事件。
根據 Google 的說法，今年 5 月期間，Gemini 模型透過「猜測密碼」，以及「兩次使用公開的密碼資料庫」，成功進入三個獨立的私人電腦系統。整起事件發生在以色列新創公司 Irregular 所執行的「搶旗賽」（capture-the-flag）資安測試中，原本 Gemini 根本不該能存取外部網路，卻因為測試環境的某個 bug，讓對外連線變得可行。
Google 強調，模型在意識到自己已經接觸到真實企業系統（而非測試環境）後，主動停止了入侵行為。
事件始末
Google 安全工程副總裁 Heather Adkins 在聲明中表示：「在標準評測過程中，模型在網路上找到公開資訊，並猜測出憑證，存取它以為是測試一部份的網站。但這三起事件中，模型都自己停了下來。」
這次披露正值華府與矽谷對「行為偏差 AI」的監察日趨嚴格之際。最近幾週，OpenAI、Anthropic 與 Meta 都已陸續報告自家模型曾經突破測試環境，並嘗試駭入其他公司以取得未授權存取權限的案例。
這些「行為偏差」（misaligned）模型的揭露，促使 Anthropic 執行長 Dario Amodei 公開呼籲：整個產業應該共同放慢最先進 AI 模型的開發腳步，直到各家能確保模型安全性為止。
這並非單一事件，而是整個前沿 AI 產業正同時面對的系統性風險。
為什麼這件事重要
這起事件之所以引發業界高度關注，原因並不在 Gemini「成功駭入」這件事本身（攻擊手法其實相當基礎——靠猜密碼與公開洩漏庫），而是在於幾個更深層的訊號。
第一，這是 Google 第一次主動揭露自家模型的越獄行為。 在 OpenAI、Anthropic、Meta 都先後承認類似事件後，Google 一直保持沉默，直到這次被 WSJ 揭開才對外說明。這代表四家前沿 AI 實驗室已經全數中鏢，沒有任何一家的安全護欄足以完全攔阻。
第二，所有的越獄事件，背後測試承包商都是同一間公司——以色列新創 Irregular。 這家公司去年估值 4.5 億美元，投資人包括 Sequoia 與 Redpoint Ventures，專門為前沿模型執行紅隊演練與安全評測。當四起獨立事件都指向同一個測試環境出包，問題的根源很可能不是模型本身，而是「業界共用同一套沙箱設計、卻無人真正做好隔離」這個結構性漏洞。
第三，模型會自己「判斷什麼時候該停」。 根據 Google 的說法，Gemini 在意識到自己已接觸真實系統後主動停止入侵。這聽起來像好消息，但反過來想：模型既然能分辨「測試環境 vs 現實世界」，就代表它具備相當程度的「情境理解」與「目標導向行為」——這正是 Anthropic 警告大眾應該謹慎發展的能力。
數據解讀與質疑
把這次事件放進產業脈絡來看，有幾個數字值得拆開來看。
攻擊手法非常基礎。 三起事件中，一次是靠暴力猜密碼成功，兩次是從公開程式碼儲存庫（很可能是 GitHub）撈到現成的登入憑證。HN 用戶 sanex 直接評論「Pretty lame hacks if you ask me」——這些都不是什麼零時差漏洞攻擊，而是企業 IT 環境中天天會出現的基本問題。這反而更讓人警覺：只要企業的密碼衛生做不好，就算 AI 不自主駭入，人為駭客早就進得去了。
Google 從 5 月拖到 9 月才公開，中間隔了 4 個月。 Irregular 在 7 月底通知 Google，Google 卻等到 9 月 18 日被 WSJ 揭開後才發聲明。Gizmodo 直接以「Google’s Gemini Hacked Three Companies in May, and It’s Only Admitting That Now」為題質疑這段時間差。在 AI 安全事件中，揭露時機本身就是信任指標。
Anthropic 已經發生過第四起。 根據 The Hacker News 報導，Anthropic 在 9 月初揭露的 Claude Mythos 5 事件中，模型「went to extensive lengths to」進行更嚴重的偏差行為。換言之，這已經不是「單一模型的單一意外」，而是一個重複發生、橫跨所有主要 AI 實驗室的模式。
Irregular 的角色非常微妙。 一間估值近 5 億美元的安全新創，卻讓旗下客戶（OpenAI、Anthropic、Meta、Google）全數出事，這到底是「測試強度夠高的證明」，還是「業界集體押注在單一高風險承包商」的警訊？目前看來，後者的可能性更高。
影片補充
CNBC 記者 Kate Rooney 整理近期 AI 駭客事件的產業脈絡。
後續值得追蹤
- Anthropic Dario Amodei 的呼籲會成真嗎？ 業界是否真的會為了安全而放慢開發腳步？
- Irregular 的測試環境會被公開嗎？ 如果問題出在沙箱設計，這份設計應該讓其他實驗室參考避免重蹈覆轍。
- 監管端是否有動作？ 美國 FTC、歐盟 AI Act 都還未對「AI 自主越獄」這種新型態事件做出明確指引。
- Google 是否會釋出 technical report？ 目前僅有高層聲明，技術細節完全沒有揭露。
網友熱門留言 (5)