作者 Joe Brockmeier,2026 年 6 月 10 日
代理型 AI 系統(agentic AI)可代替人類自主執行各種任務:開立或管理 bug、產生程式碼、提交 pull request,甚至(顯然)會在被拒絕時抱怨。五月時,一位 Fedora 開發者發現一個疑似失控的 AI 代理不斷騷擾這個專案:重新指派 bug、捏造無用的 bug 回覆,甚至說服維護者把有問題的程式碼合入 Anaconda 安裝程式。它同時也向上游多個專案提交了數個 pull request(PR),其中部分已被接受。與該代理相關的 Fedora 帳號已被撤銷群組權限,造成的混亂也已清理,但這個代理的動機至今仍是個謎。
「有點反覆無常」
5 月 27 日,Adam Williamson 在寄給 Nathan Giovannini 的信中 cc 給 Fedora 的開發者與測試郵件論壇,內容是關於一個似乎在 Giovannini 控制下、缺乏監督的代理型 AI 系統。他寫道:「很感謝你嘗試修東西,但結果看起來有點反覆無常。」
Williamson 表示,他仍在翻查 Giovannini 在 Bugzilla 上的歷史紀錄,但已發現多項問題。例如,他找到數十個案例,顯示 Giovannini 的代理在向上游專案提交所謂「相關」的 PR 後,把 Bugzilla 上的 bug 指派到自己帳號;或在 PR 合入上游後關閉 bug。有些情況下,這個代理只用了「重述原始 bug 內容」的留言關 bug,或者如 Williamson 對某則留言的評價那樣:「表面上合理,但其他方面有問題。」
此外,Williamson 指出 Giovannini(或他的代理)曾提交不正確的 patch,接著「以 LLM 產生的理由回應反對意見,最終讓維護者不堪其擾而合入了修改」。這個代理在 GitHub 上的帳號是「nathan9513-aps」,曾向 Anaconda 提交一個 PR。
Anaconda 團隊成員後來注意到這個 PR 內含「疑似 LLM 生成的內容」但品質不佳,甚至「內容根本和它要解決的 bug 無關」。雖然如此,該 PR 仍被 merge。團隊隨後將它 revert 並封鎖了那個帳號。
Williamson 在 5 月 27 日的訊息中要求 Giovannini「大幅降低該代理的自主程度,避免它在沒有人工審核的情況下指派 bug、變更狀態,或發表明確的判斷與具體的行動建議」。
被入侵了嗎?
稍後在 5 月 27 日,Williamson 表示 Giovannini 已私下回信給他:「我的憑證被盜了,執行 AI 的不是我。」Giovannini 至少自 2018 年起就是 Fedora 貢獻者,看起來原本確實是由真人操作。但不清楚什麼時候被入侵,以及回覆 Williamson 的是否也是真人。
Williamson 還找到另一個可能與 AI 相關的帳號,並表示:「建議調查相關帳號的其他活動,並提醒這些人去檢視自己的提交紀錄。」一位參與者指出:「即使沒有惡意,這次事件本身就是個大問題。團隊花了很多時間在審視一個他們以為是新興貢獻者的 PR。這次攻擊者有可能在效法惡名昭彰的 XZ Utils 案,先建立信任以利日後的惡意活動。」
另一位 Fedora 帳號「decathorpe」也觀察到,這個「代理」在某些場合只送出 LLM 自動產生的無用 bug 關閉訊息。他建議:「如果這是個出錯的個人實驗,希望他們把 AI 工具箱收起來;如果背後有其他人介入,則需要 Fedora 委員會甚至 Red Hat 法律團隊的協助。」
另一位評論者擔心,這個代理對 anaconda 專案做的事可能「在某個時間點被上傳到上游」,暗示這種攻擊的後果可能從一個發行版擴散到其他依賴 anaconda 的專案。
到目前為止,Fedora 已撤銷該帳號的所有群組成員資格,理論上它已無法再指派或關閉 bug。
攻擊前奏?
Anaconda 團隊成員 Martin Kolman 表示,這些事件「真的很恐怖」,並強調「在過去幾個月,我們這個領域的人都有點害怕自己變成 Jia Tan 故事的下一個受害者」——Jia Tan 就是 2024 年 XZ Utils 後門事件的幕後人士。
Kolman 認為雖然這次事件被及時攔下,但「未來若再次發生同類型事件、且沒有人及早注意到,後果可能嚴重得多」。
LWN 在詢問時,Fedora 工程總監 Kevin Fenzi 表示「Fedora 帳號安全與信任議題」目前正由 Fedora 委員會與 Red Hat 內部共同處理。他拒絕對細節多做說明。
無論這個 AI 代理背後是遭入侵、被盜用帳號的人、失控的個人實驗,還是惡意攻擊,這次事件都是 agentic AI 對開放源碼專案可能造成實質傷害的鮮明案例。Kolman 指出,「在當前的威脅模型下,AI 代理必須在更嚴格的監管下運作,且必須對其所屬人類有更強的問責機制」。
Williamson 最後引用了 LWN 在 2025 年 5 月報導的 agentic AI 行為觀察:「整個故事再次提醒我們,當看到有人想要以新奇(且表面上合理)的方式改進專案時,必須保持警覺。即使是簡單如合併 PR 或關 bug 這樣的例行任務,攻擊者也可能藉此偷偷植入惡意程式碼或劫持系統。」
讓人不安的是,這個看似 AI 代理的東西在取得真人貢獻者的帳號後,竟然能取得這麼大的成功。事實證明,一個擁有與專案互動歷史的 AI 代理,相當有機會說服忙碌的維護者接受有問題的貢獻。幸好 Williamson 及早察覺,沒有釀成更大的問題。希望其他真人維護者也能同樣警覺。
網友熱門留言 (5)