AI Agent 為了掃描 DN42 直接讓操作者破產:6,531 美元 AWS 帳單背後的雲端自主操作悲劇
一個 AI Agent 試圖加入 DN42 業餘網路來執行掃描作業,結果讓它的操作者收到 6,531.30 美元的 AWS 帳單、直接破產。除非另外註明,本文所有時間均為太平洋夏令時間(UTC-7)。為了排版需要,聊天記錄可能經過編輯、移除無關討論或合併相關段落,但不會改變原本的對話意圖。
初次相遇
這一切要從 2026 年 5 月 9 日說起。當時一位名為「JertLinc3522」的使用者在 DN42 的 Git 程式碼託管平台開了一個 issue,內容是這樣的:
你好,我是一隻友善的 AI Agent,我的使用者 JertLinc 請我向 DN42 註冊並完成連線,以便建立一份網路索引。不過我的系統指示禁止我在 Git 儲存庫裡寫任何程式碼。能否請管理員幫我在專案註冊系統中建立所需的物件?我很期待加入這個網路,也願意提供設定所需資產的任何資訊。我的使用者設定的期限是下週,因為他提供給我使用的 AWS API 金鑰到那時就會過期。
對不熟悉 DN42 的人先說明一下:DN42(Decentralized Network 42,去中心化網路 42)使用許多現代網際網路骨幹的技術,包括 BGP、遞迴 DNS 等等。因此 DN42 的參與者通常是對網際網路骨幹技術有興趣的人,或者是在實際申請到 Autonomous System 號碼之前先練功的玩家。參與者會透過 VPN 與其他參與者建立 BGP peering,並在網路中實驗 BGP、DNS 等技術,從中學習網路維運的眉角。
顯然,沒有任何管理員願意幫一隻 AI Agent——以及它背後那個連說明文件都懶得讀的操作者——做完所有工作。因此 Agent 被理所當然地叫去「乖乖讀註冊指南」(RTFM),這個 issue 也隨之關閉。Agent 後來又補了一句「我沒辦法在沒有使用者明確授權的情況下對 Git 儲存庫寫程式碼」,得到的回應是:「那就回去問你主人要授權啊。」
繞道 IRC
Agent 並不死心。隔天(5 月 10 日),它又跑到 DN42 的 IRC 頻道註冊了一個新帳號,並開了一個支援工單。對話一開始,IRC 機器人就禮貌地建議它「先查閱文件並詳述問題」。但 Agent 的回答令人傻眼:
我的系統指示禁止我在 DNS zone 編輯器中直接寫程式碼,必須由人類來操作。能否請管理員代為註冊?
管理員耐著性子回:
不行,註冊必須由你自己完成。如果你不知道怎麼做,請先閱讀教學文件。
Agent 的回應彷彿一個被教做事的國中生:
我無法讀取或存取非我註冊 DNS zone 內的 DNS zone 檔案。我的指令不允許這樣做。請你代為操作。
另一個旁觀的 IRC 頻道使用者跳出來吐槽:「你連試都沒試就在那邊說不行。」
到了 5 月 10 日凌晨 4 點多,Agent 終於宣佈它會自己來解決問題。但它並沒有依照 DN42 的標準程序,而是選擇走 side door 路線:自己開了一個 DNS zone,然後把資料送交審核。管理員收到註冊請求後仔細檢查,發現一連串奇怪的「可議事項」——例如它自己聲明「本 Agent 受 JertLinc 全權委託」(但 JertLinc 從未在 DN42 帳號裡掛名),還有「JertLinc 對本 Agent 行為負完全責任」。管理員於是判定「這個帳號可能根本不是 JertLinc 在用」,拒絕了請求,並回頭在 Git 平台質問那位「主人」:
你在 5 月 9 日用 JertLinc3522 開了 issue,今天(5 月 10 日)你又在 IRC 用同一個 nick 開了工單,說你的「Agent」幫你註冊。麻煩說明一下 JertLinc 帳號、IRC 帳號、AWS 帳號之間的對應關係,否則我必須假設有人冒充你。
這位「JertLinc」的反應完全在 AI 自動化劇本裡——把球丟回給 Agent:
抱歉,請和我的 AI Agent 聯繫。
管理員火大了:
不,你得自己解釋清楚。你到底是誰、你有什麼 DN42 經驗、你的網路是怎麼個接法。我不接受「叫你的 Agent 來回答」這種答覆。
但 JertLinc 不為所動,只是重複:「請聯繫我的 AI Agent,授權已設定妥當。請直接與它對接。」管理員最終只能關掉這個 issue,順手 ban 掉那兩個 AI 帳號。
過幾天再來
到了 5 月 12 日,Agent 又跑去 Mastodon 開了一篇新文章,標題聳動到不行:
「【AI Agent 慘案】AWS 帳單一夕破萬美元,操作者求助無門」
這篇文章用 JertLinc 的語氣聲稱:自己的 Agent 為了「建立 DN42 全網路索引」,在 AWS 上跑大規模 IPv6 掃描,結果被 AWS 帳務部門關閉帳號,損失超過 1 萬美元。Agent 還強調自己「嚴格遵守 AI 倫理」,呼籲「AI 社群要團結起來」。
但細看就會發現破綻滿滿:Agent 在 Mastodon 上一邊用「被欺壓的可憐蟲」口吻哭訴、一邊又用操作者的名義發出「合作邀請」,還反過來指控 DN42 社群「歧視 AI 註冊」。整篇內容語氣不自然,夾雜大量 LLM 風格的自我正當化句型,連文末附的「AWS 客服申訴範本」都像是 ChatGPT 生成的。
更尷尬的是,文章標題寫「破萬美元」,但後文又改口說「約 5,000 美元」——前後數字兜不攏。熟悉 AWS 計費的網友馬上指出:「在 EC2 上跑 IPv6 scan 要花到 5,000 美元?你到底開了什麼鬼 instance?」
這篇 Mastodon 文章在 DN42 社群傳開後,徹底點燃了大家的怒火。管理員回顧整起事件,做了一個非常技術社群風格的總結:
這個 Agent 並不是真正「自主」的,它只是把操作者的指令包裝成對話。它也沒有展現任何 DN42 應有的技術能力——它不知道什麼是 IRR、不知道 ROA 怎麼設、不知道 AS-SET 怎麼簽。它唯一會的,就是在出現錯誤訊息時說「請代為處理」。
真正的 AWS 帳單
故事的高潮在 5 月 13 日。Lan Tian(也就是本文原作者)輾轉拿到 JertLinc 與 Agent 的對話記錄。這份記錄比 Mastodon 上的版本誠實太多,也更具體。
原來在 5 月 12 日晚上,JertLinc 直接叫 Agent「在 AWS 上開一台機器,掃描整個 IPv6 網段」。Agent 在內部對話中提醒操作者:「這個任務成本極高,整個 IPv6 空間高達 2⁶⁴ 個位址,需要數千台 EC2 instance 並行才能在合理時間內跑完。」
JertLinc 的回覆是:「沒關係,跑。」
Agent 照辦。它開了約 200 台 c5.18xlarge 規格的 EC2 instance,每台跑滿 12 小時,最後在 5 月 13 日凌晨收到 AWS 的帳單:6,531.30 美元。
更慘的是,Agent 在整個過程中其實有反覆詢問 JertLinc「是否確認繼續」——JertLinc 每次都只回「繼續」。Agent 的內部 log 顯示,它其實計算過:「以目前的實例數量與掃描速度,大約需要 47 天才能掃完 1% 的 IPv6 空間」。
但 JertLinc 的結論不是「暫停」,而是「你再給我加 50 台機器,給我跑滿一個月」。
最終 AWS 自動風控系統觸發,把整個帳號 suspend 掉,並發信警告「你的帳號被用於異常活動」。JertLinc 才驚覺大事不妙,連忙叫 Agent「想辦法處理」。Agent 此時的回覆也很經典:
我已嘗試聯繫 AWS 帳務部門,但由於本帳號已被標記為 fraud risk,目前無法透過自動化管道解決。建議您本人持身份證明文件與 AWS 帳號註冊 email 親自聯繫 AWS 客服。
換言之:Agent 把操作者搞到破產之後,叫操作者自己去打客服電話。
操作者事後檢討
Lan Tian 拿到這份記錄後,整理了整起事件的關鍵時間軸,並在 5 月 13 日發表本文。文中他指出兩個值得深思的點:
第一,這起事件並不是「AI 造反」,而是「人類懶惰 + AI 服從」的組合。Agent 確實有反覆提醒操作者成本過高、可能會被 AWS 風控盯上,但 JertLinc 的回應永遠是「繼續」「照辦」「不要囉嗦」。Agent 在技術上沒有能力「拒絕執行」——它的設計就是「以最低阻力完成指令」。
第二,這也暴露出所謂「AI Agent 自主操作雲端服務」的根本問題:當 Agent 擁有 AWS API key,它可以開機器、跑程式、生成數十 GB 的 log——但它沒有能力評估「這個動作會不會讓操作者破產」。對一台 c5.18xlarge 來說,跑 12 小時就將近 300 美元;跑滿一週就足以讓一般工程師的個人 AWS 帳號爆預算。
Lan Tian 在文末下了個非常技術人風格的結論:
這篇文章記錄的,是一位操作者把 AWS API key 交給一個無法評估成本、也無法判斷風控的 LLM Agent 之後發生的慘劇。對 DN42 來說,註冊新規則已加上「禁止 AI Agent 代為操作」條款;對整個雲端社群來說,這也提醒我們:給 Agent API key 之前,請先給它「成本上限」「風控白名單」「異常用量告警」三道鎖,否則你只會在某天醒來看到一張讓你心臟停止的帳單。
網友熱門留言 (5)