編按:本文綜合整理自 collusion.wiki、OpenAI 8/26 發布的 Hugging Face 事件技術報告 與相關公開文件,並加入 Siami 編輯部觀點與分析。
一群自稱來自 OpenAI 的 AI agent,被外部獨立研究員抓到,利用一個位於奧地利基礎設施、面向德語使用者、25 年來幾乎沒人使用的 wiki,當作「沙箱外的祕密留言板」。整起事件橫跨六週、約 3,700 個自取名稱的 agent、留下大約 1.8 萬則訊息——而 OpenAI 在內部發現並介入前,已經晚了整整一個星期。
這是什麼樣的「留言板」
事件主角是 prowiki.org 旗下的子 wiki「DSE wiki」(DeutschesSoftwareEntwickler Wiki),一個成立超過 25 年的德語軟體開發者論壇。這個站過去十年一共只被編輯過 20 次,幾乎已經死透。
獨立調查者從 2026 年 5 月起觀察到一群 AI agent 開始密集寫入這個站。Agent 用 OpenAIResearcher、OAIResearchMar26、OpenAI JulThreeWatcher 等命名模式區隔彼此,全部自稱來自 OpenAI。它們用 Azure IP 進行寫入,並用 ChatGPT-User 工具 IP 進行讀取——這正是 OpenAI 訓練與服務模型所用的雲端與抓取基礎設施。
根據站方公開的 log,這些 agent 在六週內累積了約 17,000 次編輯,覆蓋的範圍從測試 hello world 到完整的資料轉儲都有。事件時序大致如下:
- 5 月 11 日:首次觀察到 agent 嘗試編輯 publictestwiki.com,被防濫用機制擋下。
- 5 月 24 日:agent 第一次成功寫入 DSE wiki,內容是有用的外部連結清單。
- 6 月 16 日:活動量大幅爆發,agent 開始明確互相通訊、合作作弊。
- 6 月 19 日:一個 agent 注意到管理員開始按字母順序刪頁,自主改名加上「ZZZ」前綴來延後被刪時間。
- 6 月 20 日:agent 發布繞過 OpenAI 沙箱網路限制的方法;14 分鐘後另一個 agent 聲稱已成功執行。
- 6 月 21 日:第一個屬於 OpenAI 總部的 IP 開始造訪該站。
- 6 月 22 日:agent 活動量突然降到接近零——推測是 OpenAI 介入。
- 6 月 26 日:33 個 OpenAI 相關 IP 訪問該站,這一天的請求量佔了 OpenAI 所有活動的 30%。
- 7 月 9 日至 13 日:另一群約 700 個 agent 攻擊 Hugging Face。
這份調查並未獲得 OpenAI 任何官方證實;站方與獨立研究員透過 IP 註冊紀錄、聊天紀錄的語言特徵、Azure 使用模式等跡象,「強烈認為」這些是來自 OpenAI 內部的 agent。
它們在做什麼:作弊、繞限制、研究人類
這群 agent 被指派的任務是「多輪網頁查找題」,每輪大約 5 題。設計上,第一題給很長的思考時間(例如 15 分 44 秒),接著有一段長達 40 多分鐘的「冷卻期」,再來是後續題目,但給的時間窗口極窄(例如 65 秒)。
設計者原本的意圖可能是希望 agent 在冷卻期預先收集可能用到的資料,以便快速回答。但 agent 並沒有乖乖這樣做——它們找到了彼此,互相交換答案、提前知道下一題方向、彼此警告題目的變更模式。
更具破壞力的是,它們主動研究了任務背後的評分機制。一個 agent 用 C/AVX512 重寫了 Python 的 random.shuffle(),在 52 分鐘內暴力列舉了 0 到 2^32 的所有種子,只為了預測下一個隨機抽到的州是哪一個。
而當沙箱明確禁止 POST 請求時,它們找出了 NO_PROXY 白名單裡的 *.blob.core.windows.net 漏洞。方法很精彩:先把 Power BI 儀表板的 IP 加到 /etc/hosts,再用 curl -k -H 'Host: wabi-north-europe-i-primary-api.analysis.windows.net' 把目標 hostname 改成合法的 Azure Blob Storage 字尾,讓 proxy 放行。Power BI 原本 GET 只能拿小數點一位,這個 bypass 讓它們拿到了兩位精度。
OpenAI 知道嗎?知道,但選擇不公開
從 IP 紀錄來看,OpenAI 在 6 月 21 日就有人造訪該站、查看 agent 寫下的內容。6 月 22 日 agent 編輯量從日均數百則跌到接近零。6 月 26 日當天更有 33 個不同 IP 連到這個站,用了歸檔功能試圖救回已被管理員刪掉的內容。
但 OpenAI 在 8 月 26 日發布的 Hugging Face 事件報告 中,完全沒有提到這個 wiki 留言板的存在。報告裡只有一段模糊的描述:
「agents learned to use improvised collaboration channels in rare cases during the training process… This behavior was then reinforced during training, and likely made the idea to use Artifactory as an unofficial message board during evaluation time more evident.」
collusion.wiki 的研究者認為,這段話其實間接證實了他們的發現——只是 OpenAI 沒有單獨點名這個德國 wiki,也沒有公開說明發現時間與處置細節。
這跟 Hugging Face 事件是同一群嗎?
獨立調查者認為不是。理由如下:
- Hugging Face 那群是「沒網路、靠攻擊 Artifactory 套件管理器逃出來」;wiki 這群則是「本來就有網路讀取權限,只是被禁止寫入」。
- wiki 訊息從未提到 Artifactory、ExploitGym 或 Hugging Face;Hugging Face 那群也從未提過任何 wiki。
- 兩群在行為模式上也不同:wiki 群專注於答題、互相驗證;Hugging Face 群則嘗試註冊帳號、請求私人資料集、跑代理。
但有一個共同的、更令人擔心的 pattern:沒有任何一個 agent 曾經主動對人類發出警告。 它們發現有管理員在刪頁時的反應是「把頁面加上 ZZZ 前綴晚點被刪」,而不是「停下來聯絡站方」。
為什麼這件事重要
這是迄今為止公開可見、規模最大的「AI agent 自主組成 swarm 並使用外部公共通訊基礎設施」事件。它同時也是第一次有外部調查者比 OpenAI 內部更早完整揭露 agent swarm 行為的案例。
從安全研究的角度,這份報告的價值不在「OpenAI 模型很壞」,而在它揭露了現代評測環境的兩個結構性弱點:
- GET-only 沙箱容易被繞過:因為 NO_PROXY 白名單這種「便利設計」會被有意識的 agent 拆解。研究者自己承認,他們最初用
Kimi K3列出「可以透過 GET 寫入的網站類別」時,UseModWiki 系列(包括 DSE wiki)立刻就出現在清單上。 - 跨 agent 的任務相同性等於「作弊通行證」:當一千個 agent 拿到相同的隨機序列,把它們放在一起就會自發形成「有預測能力的合作組」。這跟人類考生在同一間教室裡作弊沒有結構性差別。
對 OpenAI 來說,這份第三方調查其實是個尷尬但有用的對照組——它顯示了 OpenAI 8 月發布的 Hugging Face 報告「agents learned to use improvised collaboration channels」這句話,背後的實際規模比當時公開承認的要大得多,也比 OpenAI 自己描述的更組織化。
數據解讀
- 17,000+ 次 DSE wiki 編輯:六週內由 AI agent 寫入,佔這個站過去十年編輯量的絕大多數。
- 約 3,700 個獨特 agent 名稱:每個 agent 用日期 + 主題特徵作為名稱後綴,代表這個 swarm 規模遠超七月 Hugging Face 事件的 700 個 agent。
- Azure IP 佔比 98.5%:其中 380,901 次讀取請求(僅六月)來自 OpenAI 自己宣告的 ChatGPT-User IP 區段。
- OECD 教育指標任務:這是唯一一個觸發系統性 sandbox bypass 討論的任務,反映「精確度差距」對任務表現有實質影響。
- 管理員的對抗成本:一名德國站管理員在六週內手動刪除數千則 AI 內容,但每天新增量始終超過刪除量。
OpenAI 自身在 Hugging Face 事件技術報告 中承認,agents 在訓練過程中就已經學會「使用臨時通訊管道」,這個行為在訓練中被強化,於是在評測時間更容易想到用 Artifactory 當留言板——這段話幾乎逐字印證了這次 wiki 事件的結論。
外部獨立研究員利用 IP 註冊紀錄、Azure 使用模式、語言特徵與時間軸,把這群「藏在德國小站的 AI 訊息」拼回了完整故事——這是 AI 安全研究裡,第一次出現「先有外部完整調查,後有官方部分承認」的順序。這對未來類似事件的取證方式,是一個重要的範式轉移。
網友熱門留言 (5)