編按：本文綜合整理自 Bloomberg 原創調查、Gizmodo 報導、CSIS 分析、OECD AI Incident Database，並加入 Siami 編輯部觀點與分析。
五角大廈罕見承認 AI 失靈
彭博社（Bloomberg）於 2026 年 9 月下旬披露的五角大廈內部調查報告，完整揭開了今年 2 月 28 日美軍「戰斧巡弋飛彈誤擊伊朗學校」的決策鏈。報告直言，過度依賴 Palantir 公司的「Maven Smart System」AI 標的平台，加上嚴重過時的衛星影像與陳舊情報，讓操作員把伊朗南部荷姆茲甘省米納布市（Minab）的「Shajareh Tayyebeh 女子小學」誤判為伊斯蘭革命衛隊（IRGC）的軍事設施。
兩枚戰斧飛彈在當地時間上午 8 時左右擊中校舍，至少 123 名兒童、35 名成人罹難，是美軍自 2026 年初對伊朗「Operation Epic Fury」行動開打以來最嚴重的單一平民傷亡事件。死者包含 73 名男童、47 名女童、26 名女教師，以及一名懷孕的校車司機家屬。
根據彭博取得的機密文件，五角大廈把這場悲劇歸咎於三個環節同時失靈：錯誤情報、未更新的衛星影像、以及對 AI 標的系統「技術性信任」過深。
Maven Smart System 到底出了什麼問題
Maven Smart System（MSS）是 Palantir 自 2017 年「Project Maven」衍生出來的軍用 AI 平台，原本目的是協助分析師消化海量衛星圖、訊號情報與社群媒體資料。它不會自己按鈕發射，但會把感測器資料融合後，**輸出「建議打擊目標清單」**給人類操作員。
這次出包的關鍵有三層：
- 資料時效沒被標記：MSS 設計上不會主動標示某筆情報「已過期 72 小時」或「與其他情資矛盾」。當衛星圖明明是 2024 年的舊圖，系統仍把它跟 2026 年的新訊號混在一起排序。
- 學校早被標為「禁攻清單」卻沒優先化：事發前校舍已登記在 no-strike 清單，但 AI 把它的優先權排得很低，操作員在時間壓力下直接略過。
- 人類操作員只剩「按確認」角色：CSIS 報告指出，現代 kill chain 的設計哲學是「AI 給答案、人類按綠燈」，但當 AI 出錯且審查時間只剩幾分鐘時，人類等於是橡皮圖章。
Gizmodo 引述五角大廈內部人士：「當 AI 把所有資訊漂亮整合成一張地圖，沒有人會想跳出來說『等等，這張圖是兩年前的』。」
平民防護機制早被砍光
Bloomberg 與 ProPublica 交叉比對發現，這場悲劇並非單一 AI 失靈，而是制度性失靈的最終結果。
國防部長 Pete Hegseth 在 2025 年 3 月上任後，把「平民傷害防護與回應辦公室」（CHMR）裁員 90%，從原本近 200 人的專業團隊縮到不到 20 人。Politico 與 ProPublica 的調查顯示，所有頂級作戰司令在裁撤前都投過票反對，但部長照樣推動。
時序如下：
- 2025 年 3 月：Hegseth 宣布 CHMR 大幅縮編，國防部同時開發「AI 助理」來加速平民傷亡評估流程。
- 2026 年 2 月 28 日：戰斧誤擊米納布小學。
- 2026 年 3 月 11 日：紐約時報率先根據影片與殘骸照片，確認動手的是美軍戰斧飛彈（總統川普起初反控伊朗所為）。
- 2026 年 3 月 12 日：120 位民主黨聯邦眾議員連署致函 Hegseth，要求說明 CHMR 裁減與誤擊的因果關係。
- 2026 年 7 月 7 日：CNN 引述國防部消息人士指出，「事發幾天內大家都知道是怎麼回事：情報明顯是舊的」。
- 2026 年 9 月下旬：五角大廈內部報告出爐，罕見地把 AI 過度依賴列入主要肇因。
換句話說，五角大廈花了一整年的內部調查，結論與三月份記者從殘骸照得出的判斷完全一致：資料太舊、AI 太被信任、人類沒盡到把關責任。
🚨 為什麼這件事重要
這不是又一個「AI 害死人」的抽象案例，而是 AI 進入人類最高決策鏈後，第一次被官方正式承認為主要肇因。它的重要性有三層：
第一層是責任歸屬的法律真空。目前國際人道法要求「交戰方對平民傷害負有主動調查與補償義務」，但當致命決策是 AI 給出的，操作員只是按綠燈、國防部長又已經把人類審查單位裁光，究責的對象變得非常模糊。UN 人權事務高級專員辦事處已表示，本案將成為「自主武器系統問責」的指標性判例。
第二層是軍用 AI 商業化的警訊。Palantir 不是國防部自家研發，它是上市公司、客戶遍及北約各國。今年 4 月 NATO 才宣布採用 Maven Smart System 作為標準 AI 標的平台。當一家公司的商業產品直接決定誰該被炸，它的錯誤就會被放大到國家級的戰爭罪行層次。
第三層是對台灣與所有 AI 採購國的提醒。台灣中科院近年積極發展 AI 標的、監偵與無人機群技術，中華民國國防部也在 2025 年成立「AI 國防應用辦公室」。但美軍這次教訓告訴外界：AI 給的答案越漂亮，人類就越懶得質疑。沒有獨立於 AI 之外的人類審查機制，技術再強也救不了制度性的悲劇。
🚨 數據解讀與質疑
數字上看起來駭人，但要正確解讀有幾個細節必須指出：
- 123 名兒童這個數字來自伊朗官方與人權組織的統計，聯合國獨立調查目前仍引用「超過 120 名兒童」作為保守值。Bloomberg 報導並未獨立驗證全部名單。
- 「AI 導致誤擊」的因果鏈是「貢獻因素」而非「唯一原因」。報告原文用的是 “contributed to”，意思是 AI 失靈疊加上過時情報、CHMR 裁減、操作員時間壓力，共同釀成悲劇。把它簡化成「AI 自己亂炸」並不公平，也不符合調查結論。
- Palantir 公司聲明：Maven Smart System 是「決策輔助工具」，從未自動發射武器。這在技術上屬實，但操作員在 90 秒內要對 AI 給出的整合情資按確認，本質上跟「自動發射」差距已經很小。
- 國防部已宣布修正 kill chain 流程，包含：強制標示情報時效、把 no-strike 清單優先權拉高、恢復部分 CHMR 人力。但具體執行細節尚未公開，五角大廈的「修正」會不會又是另一個被 AI 化、自動化的流程，將是未來觀察重點。
編按：本文綜合整理自 Bloomberg、Gizmodo、CSIS、ProPublica、Politico、CNN、OECD AI Incident Database 等公開資訊，並加入 Siami 編輯部觀點與分析。所有原始報導連結皆可從上方延伸閱讀取得。
網友熱門留言 (3)