編按:本文綜合整理自 Reuters 法律線、Ars Technica 報導、ABA Journal、Santa Fe New Mexican 與新墨西哥最高法院 判決書 PDF,並加入 Siami 編輯部觀點與分析。
一名執業超過 40 年的新墨西哥州刑事辯護律師,把 ChatGPT 寫出的「上訴補充書狀」直接送進新墨西哥州最高法院,結果整份文件塞滿了根本不存在證人的證詞與從未發生過的警察陳述。法院在 2026 年 9 月 11 日裁定,這位律師直接藐視法庭、罰款 5,000 美元、並被撤換出客戶的謀殺上訴案。
事件經過:40 年經驗也救不了 AI 幻覺
被告 Oscar Renee Sandoval 因謀殺罪被判刑,由聖塔菲(Santa Fe)知名辯護律師 Stephen D. Aarons 接手上訴。面對堆積如山的案件與高強度工作量(Aarons 手上仍有 38 件待審案件),他把整份上訴事實摘要餵給 ChatGPT,請 AI 幫忙整理與補強論點。
問題是,ChatGPT 在沒有原始筆錄的情境下,直接憑空捏造:
- 不存在的證人姓名與他們的證詞陳述
- 未曾發生過的警察詢問紀錄
- 虛構的法庭判決援引
Aarons 後來向法院坦承,他「沒有親自驗證」ChatGPT 生成的事實陳述與法律援引,也沒有交叉比對任何原始案卷,就直接把 AI 內容寫進正式書狀。當法官開始追問某些「證人」時,Aarons 才驚覺這些人根本不存在。
法院在判決書中直接寫道,書狀內含「完全虛構證人所提供的虛假證詞」(contained false testimony from wholly fabricated witnesses),且 Aarons 對客戶展現了「缺乏悔意且毫不關心」(demonstrated a lack of remorse and a lack of concern for his client) 的態度。
法院判決與制裁內容
新墨西哥最高法院 9 月 11 日的命令涵蓋四項裁罰:
- 直接藐視法庭罪成立(direct criminal contempt)
- 罰金 5,000 美元,繳入州律師客戶保護基金(client protection fund)
- 撤換出 Sandoval 案,律師事務所需另行指派辯護人
- 全部上訴書狀遭剔除(struck from the record),意味著上訴程序必須從頭來過
值得注意的是,5,000 美元的罰金金額其實不算重,重點在於「藐視法庭」這頂帽子一旦戴上,將直接影響 Aarons 在該州的所有執業資格審查與未來紀律處分。ABA Journal 報導指出,新墨西哥州律師公會(State Bar)也正對他發動可能的紀律調查。
「當你在書狀上簽名,你就對法院負起個人責任——AI 不是辯護理由。」
這句話雖非法官原話,但濃縮了新墨西哥最高法院命令的核心精神:律師對真實性的查證義務,不能外包給任何工具。
為什麼這件事重要
這不是第一起「律師用 ChatGPT 寫假東西」的案件,但它是第一起情節最嚴重、當事人資歷最深、法律後果最明確的一起。
回顧類似案例的演進路徑:
- 2023 年 Mata v. Avianca:紐約聯邦法院律師 Steven Schwartz 用 ChatGPT 引用虛構判例,遭法院制裁、罰款 5,000 美元
- 2024-2025 年間:加拿大、多個美國州陸續出現律師使用 AI 生成假判例被處分
- 2026 年這次:層級直接升級——從「假判例援引」變成「假證人與假警察證詞」,而且寫進刑事謀殺案的上訴文件
[Siami 編輯部觀點]:這個演進揭示了 AI 幻覺在法律場域的三個結構性問題:
- 幻覺的「可信度」更高了——ChatGPT 不只會編造判例編號,還會捏造看起來非常真實的人物姓名、警局代號、案件時間線。律師肉眼幾乎無法分辨
- 幻覺的「範圍」更廣了——從「援引錯誤」擴大到「事實捏造」,這已經觸及刑法層級的偽證與司法干擾
- 「資深免責」迷思破滅——40 年經驗無法保護律師,因為 AI 幻覺從來不是「專業能力」問題,而是「工具本質」問題
對台灣讀者而言,這件事的直接意義是:AI 工具進入專業服務業的紅線已經畫下。律師、醫師、會計師、工程師,凡是需要對「真實性」負最終責任的職業,都必須重新設計工作流程——AI 只能當草稿生成器,驗證責任永遠在專業人士身上。
數據解讀與後續觀察重點
從這次事件延伸出三個值得持續追蹤的指標:
- 律師事務所的 AI 使用政策:大型美國律所(Magic Circle、Big Law)在事件後 48 小時內已陸續發出內部備忘錄,要求 AI 生成內容必須由兩位律師交叉驗證。預期未來 6 個月內,會有越來越多事務所全面禁用消費級 ChatGPT,改用有引用溯源功能的企業版或法律垂直模型
- 法院的 AI 開示義務:新墨西哥最高法院的命令可能成為其他州法院的判例參考,預期會推動「律師必須主動揭露 AI 使用情況」成為新的訴訟規則。這會直接衝擊所有依賴 AI 起草書狀的訴訟實務
- AI 公司的責任邊界:OpenAI 至今未對本案發表任何聲明。但隨著類似案例累積,社會壓力會轉向「AI 公司是否應該在模型層級標示生成內容的不確定性」——例如強制性的引用溯源、生成內容浮水印、即時查證建議
這次事件最值得記住的,不是「某個律師犯了錯」,而是「整個專業服務業的 AI 信任邊界正在被重寫」。未來一年,這類判決會決定我們究竟把 AI 當成「輔助工具」還是「替代判斷者」。
參考來源
- Reuters 法律線(主要報導):https://www.reuters.com/legal/government/chatgpt-invented-fake-police-testimony-murder-appeal-new-mexico-high-court-says-2026-09-11/
- Ars Technica 原文:https://arstechnica.com/tech-policy/2026/09/chatgpt-using-lawyer-punished-for-citing-fake-testimony-from-made-up-witnesses/
- ABA Journal 詳細分析:https://www.abajournal.com/news/article/criminal-defense-attorney-admits-stupidity-over-ai-errors-but-still-receives-sharp-rebuke-from-his-states-high-court
- Santa Fe New Mexican 地方報導:https://www.santafenewmexican.com/news/local_news/new-mexico-high-court-blasts-lawyer-takes-him-off-case-for-ai-errors-in-brief/article_a162daf7-95a4-4010-a017-dedcbdb68b0b.html
- 新墨西哥最高法院判決書 PDF:https://cdn.arstechnica.net/wp-content/uploads/2026/09/new-mexico-chatgpt-lawyer.pdf
網友熱門留言 (4)