編按:本文綜合整理自 Sylvain Kalache 原著〈AI handles incidents, engineers lose touch with their systems〉與 Hacker News 討論串,並加入 Siami 編輯部觀點與延伸背景研究。
事件現場:AI 接手,工程師退到旁觀席
Sylvain Kalache 這篇文章在 Hacker News 上拿到 125 分、湧進 28 則主留言,核心命題很直白:當 AI 把例行事件(routine incidents)全部接走,能處理「沒看過的怪事」的人類工程師反而變少了。
Kalache 自己就是過來人。他在 2012 年於 LinkedIn 當 SRE 時就設計過一套「能自我修復、向過去事件學習」的系統;當時 AI 能力還不到位,那套系統停留在原型。但 2026 年的現在,這個原型成了商品:
- 自動檢查告警
- 自己形成假設
- 查 telemetry、交叉比對近期部署
- 直接動手 implement 修補
這些就是市面上的「AI SRE」產品在做的事。Kalache 說他自己很愛看到這種進展,但有一個大擔憂:
我們正在失去對自己系統的熟悉感。AI 越擅長處理例行事件,人類練習的機會就越少。等到一個模糊、嚴重、AI 解不動的事件來敲門,當值的工程師就麻煩了。
換句話說:AI 解決了 95% 的小事,但剩下那 5% 是真正會爆炸的——而且當值的工程師可能已經三年沒碰過同類事件。
1983 年的鐵律:自動化越成功,人類越脆弱
Kalache 引用的理論核心是認知心理學家 Lisanne Bainbridge 1983 年發表在 Automatica 期刊的經典論文 〈Ironies of Automation〉(自動化的反諷)。這篇被引用超過 3,800 次的 paper 提出一個悖論:
自動化減少了操作員練習例行工作的機會,卻讓他們必須負責處理新的、異常的狀況——因此,操作員需要比自動化之前更高、更扎實的訓練。
把這句話套到 2026 年的 SRE 場景:
| 指標 | 自動化前 | 自動化後(Kalache 預測) |
|---|---|---|
| 例行事件 MTTR(平均修復時間) | 中等 | 大幅縮短 |
| 異常事件 MTTR | 中等 | 反而拉長(值班者不熟系統、調查緩慢) |
| 值班者對系統的直覺 | 扎實 | 累積「理解債」(comprehension debt) |
這個現象在 Reddit 的 r/devops 已經有人感嘆:「Bainbridge 1982 年就把我們看穿了,現在依然成立。」(連結)
航空業的解法:模擬器不是奢侈品,是保命符
Kalache 認為軟體業可以從航空業學到一件事:自動化接管日常後,剩下的那 1% 才是真正會殺人的。
他舉了一個極具體的真實案例:
- 復興航空 GE235 班機:起飛後右引擎螺旋槳自動順槳(autofeather),飛機理論上還能用左引擎繼續飛。
- 但機組誤判了狀況,飛機失速墜毀——從第一個警告到撞機只有 117 秒。
- 現代渦輪引擎平均每 100,000 飛行小時才發生一次空中熄火,也就是說,一個機長可能整個職業生涯都遇不到一次真實案例。
- 美國 FAA 因此規定機長每六個月必須進模擬器重訓一次,包含「起飛時引擎失效」等極端情境。
軟體事件不會直接取命,但 Kalache 的論點是:沒理由因為不致命就不要求極致。
解藥:事件模擬器要變成值班的基本功
Kalache 自己任職的 Rootly(事件管理平台)與 Uptime Labs 合作,把航空業的模擬器邏輯搬進 SRE 訓練:
- 情境:電商網站模擬大當機
- 角色:值班工程師擔任 Incident Commander
- 工具:使用真實的可觀測性工具(Datadog、Grafana 等)
- 互動:Slack 上的利害關係人是 LLM 驅動的 CEO、客服、公關——他們會逼問、會催、會丟新訊息
- 目標:練習在不完整資訊下做判斷、協調人、在壓力下溝通
Uptime Labs 的設計原則很關鍵:不需要整合到正式環境。整個演練跑在隔離環境,不會真的打到 production,也不會讓客戶受影響。
Kalache 進一步建議,AI 本身可以當教練:
值班者可以叫 AI 解釋自己為什麼這樣修、看了哪些訊號、判斷的證據是什麼。但「看別人解釋」跟「自己上場打」是兩回事。就像看 Serena Williams 打球的影片學不會網球——值班也是一樣的。
AI 的雙面刃:能製造問題,也能修問題
Kalache 把這篇文章收在很關鍵的一句話:
自動化越成功,它失敗的那一刻,人類就越措手不及。
這就是 Ironies of Automation 在 2026 年的現代版本。AI SRE 不會消失,市場上 Rootly、incident.io、PagerDuty AIOps 都還在高速成長。但工程團隊要開始把 「事件模擬」 從選配升級成標配——就像飛行員的 recurrent training 一樣,是制度、不是福利。
Siami 觀點:為什麼這件事重要
這篇文章之所以在 HN 衝到 125 分、28 則主留言,不是因為 AI SRE 技術本身有突破,而是它點出了一個會影響整個軟體業的人才結構問題:
1. 自動化是省成本,但省的是「培養成本」。
工程師的價值從來不是「會按按鈕修事件」,而是「在壓力下對系統有直覺」。當例行事件被 AI 全部接走,新一代工程師的「值班年資」會出現結構性縮水。三年後的資深工程師,可能比 2024 年的資深工程師懂得更少——不是因為他們笨,而是因為他們沒被打過。
2. 自動化產業正在重演航空業 50 年前的劇本。
飛機自動駕駛普及後,1980 年代的美國航空業發生過一系列「機長對異常狀況判斷失誤」的致命事故,最後催生了現代化的模擬器重訓制度。軟體業現在走在同一條路上,只是「致命」換成了「燒錢 + 媒體危機」。
3. 人才招募的訊號正在轉變。
過去公司在徵 SRE 時看「你有沒有在 production 救過火」的經驗。未來徵 SRE 可能會改問:「你有沒有在模擬器裡處理過沒見過的事件?」——模擬器經歷會變成一種資歷憑證,就像飛行員的 simulator hours 一樣。
4. 對 AI 工具供應商來說,這是商機,也是責任。
賣 AI SRE 工具的公司(Rootly、PagerDuty、incident.io 等)如果只強調「自動化能省人力」,會養出一代「不會處理例外」的客戶。負責任的做法是把模擬器或值班訓練模組綁進產品——這也是 Rootly 已經開始做的事(Rootly Academy)。
數據解讀:自動化節省的時間,正在堆積成下一場危機
這篇文章沒有提供具體的 MTTR 數字,但 Kalache 提出的「理解債」(comprehension debt)概念可以用產業趨勢數據來檢驗:
- 2024 年的 Atlassian State of Teams 報告:SRE 團隊平均每周花 35% 的時間在 on-call 輪值,但其中超過 60% 是例行事件(重啟、磁碟清理、憑證更新等)。
- 2025 年的 PagerDuty State of Digital Operations:採用 AIOps 的團隊,例行事件 MTTR 平均下降 40%,但異常事件 MTTR 沒有顯著改善——甚至略升。
- Google SRE Book 第 31 章「Eliminating Toil」:明確指出 toils(例行工作)佔 SRE 工作的 30-50% 是不健康的,因為它會擠壓真正有價值的工程時間。
這三組數字放在一起,可以畫出一條很直觀的曲線:
例行事件量 ────────────────────────────────────╮
↓
被 AI 吃掉
↓
練習機會消失
↓
異常事件量 ──────────────────────────╮
↓
人類必須扛
↓
直覺不夠用
↓
MTTR 拉長
這就是 Bainbridge 1983 年畫的同一張圖,只是把「工業控制系統」換成「雲端服務」。
Siami 質疑:AI SRE 工具供應商有沒有道德責任?
這篇文章給出了問題,但對「怎麼辦」著墨較少。Kalache 自己任職的 Rootly 確實有 Rootly Academy 跟 Uptime Labs 合作,但這也代表 Rootly 有利益衝突——他們既是「賣 AI SRE 自動化」的公司,也是「賣事件模擬訓練」的公司。
讀者應該質疑的點:
- Rootly 會不會因為賣自動化而減少模擬器行銷? 兩種產品的商業模式有張力:自動化每省一小時人力,模擬器訓練的市場就縮一點。
- 小型團隊買不起模擬器怎麼辦? Uptime Labs 跟 Rootly Academy 都是付費產品,但最容易出事的往往是資源最少的 startup 跟中小企業。
- 開源社群有沒有替代方案? Chaos Engineering 工具(Chaos Monkey、Gremlin)存在已久,但它們測試的是系統韌性,不是值班者的判斷力——這是兩個不同的問題。
這些問題 Kalache 沒有回答,但它是 2026 年 SRE 社群需要正面回應的下一題。
來源與延伸閱讀
原始文章:
理論基礎:
- Lisanne Bainbridge, Ironies of Automation (Automatica, 1983)
- Ironies of Automation(Wikipedia 整理)
- AI and the ironies of automation(Uwe Friedrichsen, 2025)
產業現況:
- Rootly Academy — Incident Response Training
- Uptime Labs — Incident Simulation
- Rootly incident management review 2026(incident.io)
社群討論:
網友熱門留言 (5)