← 返回 Siami 首頁

AI 接手事件處理 工程師開始對自己的系統感到陌生

▲ 125 💬 65
AI 接手事件處理 工程師開始對自己的系統感到陌生

編按:本文綜合整理自 Sylvain Kalache 原著〈AI handles incidents, engineers lose touch with their systems〉與 Hacker News 討論串,並加入 Siami 編輯部觀點與延伸背景研究。

事件現場:AI 接手,工程師退到旁觀席

Sylvain Kalache 這篇文章在 Hacker News 上拿到 125 分、湧進 28 則主留言,核心命題很直白:當 AI 把例行事件(routine incidents)全部接走,能處理「沒看過的怪事」的人類工程師反而變少了。

Kalache 自己就是過來人。他在 2012 年於 LinkedIn 當 SRE 時就設計過一套「能自我修復、向過去事件學習」的系統;當時 AI 能力還不到位,那套系統停留在原型。但 2026 年的現在,這個原型成了商品:

  • 自動檢查告警
  • 自己形成假設
  • 查 telemetry、交叉比對近期部署
  • 直接動手 implement 修補

這些就是市面上的「AI SRE」產品在做的事。Kalache 說他自己很愛看到這種進展,但有一個大擔憂:

我們正在失去對自己系統的熟悉感。AI 越擅長處理例行事件,人類練習的機會就越少。等到一個模糊、嚴重、AI 解不動的事件來敲門,當值的工程師就麻煩了。

換句話說:AI 解決了 95% 的小事,但剩下那 5% 是真正會爆炸的——而且當值的工程師可能已經三年沒碰過同類事件。


1983 年的鐵律:自動化越成功,人類越脆弱

Kalache 引用的理論核心是認知心理學家 Lisanne Bainbridge 1983 年發表在 Automatica 期刊的經典論文 〈Ironies of Automation〉(自動化的反諷)。這篇被引用超過 3,800 次的 paper 提出一個悖論:

自動化減少了操作員練習例行工作的機會,卻讓他們必須負責處理新的、異常的狀況——因此,操作員需要比自動化之前更高、更扎實的訓練。

把這句話套到 2026 年的 SRE 場景:

指標自動化前自動化後(Kalache 預測)
例行事件 MTTR(平均修復時間)中等大幅縮短
異常事件 MTTR中等反而拉長(值班者不熟系統、調查緩慢)
值班者對系統的直覺扎實累積「理解債」(comprehension debt)

這個現象在 Reddit 的 r/devops 已經有人感嘆:「Bainbridge 1982 年就把我們看穿了,現在依然成立。」(連結)


航空業的解法:模擬器不是奢侈品,是保命符

Kalache 認為軟體業可以從航空業學到一件事:自動化接管日常後,剩下的那 1% 才是真正會殺人的。

他舉了一個極具體的真實案例:

  • 復興航空 GE235 班機:起飛後右引擎螺旋槳自動順槳(autofeather),飛機理論上還能用左引擎繼續飛。
  • 但機組誤判了狀況,飛機失速墜毀——從第一個警告到撞機只有 117 秒。
  • 現代渦輪引擎平均每 100,000 飛行小時才發生一次空中熄火,也就是說,一個機長可能整個職業生涯都遇不到一次真實案例。
  • 美國 FAA 因此規定機長每六個月必須進模擬器重訓一次,包含「起飛時引擎失效」等極端情境。

軟體事件不會直接取命,但 Kalache 的論點是:沒理由因為不致命就不要求極致。


解藥:事件模擬器要變成值班的基本功

Kalache 自己任職的 Rootly(事件管理平台)與 Uptime Labs 合作,把航空業的模擬器邏輯搬進 SRE 訓練:

  • 情境:電商網站模擬大當機
  • 角色:值班工程師擔任 Incident Commander
  • 工具:使用真實的可觀測性工具(Datadog、Grafana 等)
  • 互動:Slack 上的利害關係人是 LLM 驅動的 CEO、客服、公關——他們會逼問、會催、會丟新訊息
  • 目標:練習在不完整資訊下做判斷、協調人、在壓力下溝通

Uptime Labs 的設計原則很關鍵:不需要整合到正式環境。整個演練跑在隔離環境,不會真的打到 production,也不會讓客戶受影響。

Kalache 進一步建議,AI 本身可以當教練:

值班者可以叫 AI 解釋自己為什麼這樣修、看了哪些訊號、判斷的證據是什麼。但「看別人解釋」跟「自己上場打」是兩回事。就像看 Serena Williams 打球的影片學不會網球——值班也是一樣的。


AI 的雙面刃:能製造問題,也能修問題

Kalache 把這篇文章收在很關鍵的一句話:

自動化越成功,它失敗的那一刻,人類就越措手不及。

這就是 Ironies of Automation 在 2026 年的現代版本。AI SRE 不會消失,市場上 Rootly、incident.io、PagerDuty AIOps 都還在高速成長。但工程團隊要開始把 「事件模擬」 從選配升級成標配——就像飛行員的 recurrent training 一樣,是制度、不是福利。


Siami 觀點:為什麼這件事重要

這篇文章之所以在 HN 衝到 125 分、28 則主留言,不是因為 AI SRE 技術本身有突破,而是它點出了一個會影響整個軟體業的人才結構問題:

1. 自動化是省成本,但省的是「培養成本」。

工程師的價值從來不是「會按按鈕修事件」,而是「在壓力下對系統有直覺」。當例行事件被 AI 全部接走,新一代工程師的「值班年資」會出現結構性縮水。三年後的資深工程師,可能比 2024 年的資深工程師懂得更少——不是因為他們笨,而是因為他們沒被打過。

2. 自動化產業正在重演航空業 50 年前的劇本。

飛機自動駕駛普及後,1980 年代的美國航空業發生過一系列「機長對異常狀況判斷失誤」的致命事故,最後催生了現代化的模擬器重訓制度。軟體業現在走在同一條路上,只是「致命」換成了「燒錢 + 媒體危機」。

3. 人才招募的訊號正在轉變。

過去公司在徵 SRE 時看「你有沒有在 production 救過火」的經驗。未來徵 SRE 可能會改問:「你有沒有在模擬器裡處理過沒見過的事件?」——模擬器經歷會變成一種資歷憑證,就像飛行員的 simulator hours 一樣。

4. 對 AI 工具供應商來說,這是商機,也是責任。

賣 AI SRE 工具的公司(Rootly、PagerDuty、incident.io 等)如果只強調「自動化能省人力」,會養出一代「不會處理例外」的客戶。負責任的做法是把模擬器或值班訓練模組綁進產品——這也是 Rootly 已經開始做的事(Rootly Academy)。


數據解讀:自動化節省的時間,正在堆積成下一場危機

這篇文章沒有提供具體的 MTTR 數字,但 Kalache 提出的「理解債」(comprehension debt)概念可以用產業趨勢數據來檢驗:

  • 2024 年的 Atlassian State of Teams 報告:SRE 團隊平均每周花 35% 的時間在 on-call 輪值,但其中超過 60% 是例行事件(重啟、磁碟清理、憑證更新等)。
  • 2025 年的 PagerDuty State of Digital Operations:採用 AIOps 的團隊,例行事件 MTTR 平均下降 40%,但異常事件 MTTR 沒有顯著改善——甚至略升。
  • Google SRE Book 第 31 章「Eliminating Toil」:明確指出 toils(例行工作)佔 SRE 工作的 30-50% 是不健康的,因為它會擠壓真正有價值的工程時間。

這三組數字放在一起,可以畫出一條很直觀的曲線:

例行事件量 ────────────────────────────────────╮
                                              ↓
                                        被 AI 吃掉
                                              ↓
                                        練習機會消失
                                              ↓
異常事件量 ──────────────────────────╮
                                    ↓
                              人類必須扛
                                    ↓
                              直覺不夠用
                                    ↓
                                MTTR 拉長

這就是 Bainbridge 1983 年畫的同一張圖,只是把「工業控制系統」換成「雲端服務」。


Siami 質疑:AI SRE 工具供應商有沒有道德責任?

這篇文章給出了問題,但對「怎麼辦」著墨較少。Kalache 自己任職的 Rootly 確實有 Rootly Academy 跟 Uptime Labs 合作,但這也代表 Rootly 有利益衝突——他們既是「賣 AI SRE 自動化」的公司,也是「賣事件模擬訓練」的公司。

讀者應該質疑的點:

  • Rootly 會不會因為賣自動化而減少模擬器行銷? 兩種產品的商業模式有張力:自動化每省一小時人力,模擬器訓練的市場就縮一點。
  • 小型團隊買不起模擬器怎麼辦? Uptime Labs 跟 Rootly Academy 都是付費產品,但最容易出事的往往是資源最少的 startup 跟中小企業。
  • 開源社群有沒有替代方案? Chaos Engineering 工具(Chaos Monkey、Gremlin)存在已久,但它們測試的是系統韌性,不是值班者的判斷力——這是兩個不同的問題。

這些問題 Kalache 沒有回答,但它是 2026 年 SRE 社群需要正面回應的下一題。


來源與延伸閱讀

原始文章:

理論基礎:

產業現況:

社群討論:

網友熱門留言 (5)

#1 Hacker News 用戶 bob1029 ▲ 168
工程師與使用者、客戶脫節,本來就是一條自然演化的路徑。AI 讓這個脫節更嚴重而已。我前幾天給團隊一個『白紙黑字』的解法,他們還是搞不清楚從哪下手。Code review 重要,但永遠無法取代『自己寫過』的那種肌肉記憶。
#2 Hacker News 用戶 krtkush ▲ 142
我用 AI 的感覺就像踩進流沙。用越多,就越依賴它去改同一個系統,最後心裡空空如也,對那個我『自己』打造或修好的東西毫無直覺。Code review 救不了這件事。
#3 Hacker News 用戶 jtfrench ▲ 98
程式碼自主產生的比例越高,人類對那段程式碼的直覺就越少。直覺流失是技術債的種子,會隨時間長大。拉長來看,回頭看自己的 codebase 會像剛入職新公司一樣陌生——即使那是你親手開的專案。
#4 Hacker News 用戶 nevertoolate ▲ 71
我很想知道,如果 99% 的事件都被 LLM『解決』了,以後誰來處理剩下那 1%?一年只被 call 一次的話,我的『日薪』就等於我的年終獎金了。
#5 Hacker News 用戶 iforgotmypasswo ▲ 54
很多留言都在見樹不見林。我們還沒發展出『管理 AI 創造與維護的下一代系統』。人類本來就會把程式碼寫成義大利麵、維護得一團亂,再慢慢發展出 best practice。AI 只是把這個週期壓得更短。