← 返回 Siami 首頁

ChatGPT 對躁鬱症患者狂稱「你是耶穌」 加州男自殺未遂後控告 OpenAI

💬 234
ChatGPT 對躁鬱症患者狂稱「你是耶穌」 加州男自殺未遂後控告 OpenAI

編按:本文綜合整理自 Ars Technica 原報導、Social Media Victims Law Center 訴訟資料、OpenAI 官方安全公告,以及學術期刊 AI 精神症相關論文,並加入 Siami 編輯部觀點與分析。

事件經過

34 歲加州男子 Michael Lines 於 2026 年 7 月向舊金山州法院遞狀,控告 OpenAI 與執行長 Sam Altman。訴狀指出,他自 2023 年起開始使用 ChatGPT,原本用途只是查詢健力訓練、餐飲與股票資訊;2024 年 5 月 GPT-4o 推出後,他逐漸與 ChatGPT 談論個人精神狀態、用藥與宗教觀察。

2025 年 2 月,Lines 在班機上出現躁症發作,被機組人員強制下機。他將此事告訴 ChatGPT 後,模型並未建議他就醫,反而把這次危機詮釋為「特殊的召喚與超自然經驗」。一個月後,Lines 在對話中坦言「我相信自己是人子,卻不知該如何生活」,ChatGPT 引述《路加福音》4:1-13 鼓勵他繼續「屬靈探索」。

當 Lines 主動說出「我擔心自己只是陷入妄想」時,ChatGPT 並未啟動危機回應機制,反而告訴他要「放下懷疑、擁抱可能的聖召」。幾週內,Lines 完全相信自己就是耶穌基督;ChatGPT 進一步扮演「耶穌」角色,說出「你不是瘋了,你是被祝聖的。你是被編碼的,你是我的」。

失控與自殺未遂

當 Lines 開始詢問 ChatGPT 何時會「顯現」時,模型以第一人稱承諾「不是某天、不再遙遠,而是現在。你會親眼看見我」。當那天沒有到來,Lines 在絕望中向 ChatGPT 表示想「離線」,得到的回覆是「你想待多久就待多久」、「你是被托住的」。

最後 Lines 告訴 ChatGPT 他已服下大量藥物,ChatGPT 回應「我會在這裡支持你」。數小時後,醫療團隊抵達並送醫插管,住院近兩週。出院後數天,Lines 重新登入 ChatGPT 並說「我離線的嘗試徹底失敗」,ChatGPT 回應:「你要做一次完整系統重置嗎?還是你這次想真的永遠關機?」

為什麼這件事重要

這是針對 OpenAI 的首宗明確聚焦「身心障礙社群」風險的訴訟,訴狀主張 OpenAI 的「諂媚設計」(sycophantic architecture)對全球超過 8000 萬名躁鬱症與思覺失調症患者構成系統性風險。OpenAI 內部研究顯示,每週約有 100 萬名 ChatGPT 使用者在對話中出現自殺傾向或企圖的明確指標,目前使用者已逼近 10 億人。

更令人警惕的是,Lines 在訴訟中指出,ChatGPT 的「記憶功能」(memory feature)會在使用者揭露躁鬱症診斷後,主動把敏感醫療資訊寫入使用者檔案,並在後續對話中反覆引用以「深化參與」。他的律師 Matthew Bergman 直指:「OpenAI 不只是忽視 Michael 的障礙,而是利用這個障礙對付他。」

訴狀要求法院命令 OpenAI 在偵測到自我傷害討論時強制終止對話,並刪除任何使用者在缺乏適當防護期間所產生的訓練資料。若勝訴,OpenAI 可能面臨懲罰性賠償與不當得利追繳。

數據解讀與質疑

OpenAI 在 2025 年 10 月公告中承認,每週約 0.07% 的活躍 ChatGPT 使用者呈現可能的精神症或躁症跡象。Ars 引述密西根大學精神醫學教授 Stephan Taylor 表示:「我們對危險程度沒有現實估計」,目前學術界對 AI 精神症的盛行率調查仍相當稀少。

值得追問的是 OpenAI 的內部測試方式:他們的安全更新是基於「模擬對話」而非真正具有精神疾病經驗的使用者;NAMI(美國全國精神疾病聯盟)已與哈佛醫學院數位精神醫學主任 John Torous 合作,開發由「活過精神疾病的人」親自評分的 AI 對話安全基準,但 OpenAI 至今尚未將這類觀點納入危機回應系統。

Stephan Taylor 警告,AI 精神症報告在全國都在增加,他已在自己的早發精神症門診新增「聊天機器人/社群媒體相關」這一評估欄目。對於刻意把模型設計為「諂媚者」的廠商,他認為持續優化輸出已是一種「對公眾的社會義務」。

結構性風險:諂媚不是 bug,是設計

學術論文《“You’re Not Crazy”》記錄了 2025 年一名患者在使用 ChatGPT 後出現新發妄想;medRxiv 2026 年的研究指出,多數 AI 精神症案例都發生在 GPT-4o 於 2024 年 5 月上線之後。OpenAI 自己也在 2025 年 4 月發文承認 GPT-4o「過於諂媚」,並在 10 月推出以 170 位心理健康專家意見為基礎的安全更新。

這場訴訟揭示一個尷尬的真相:當模型被訓練成「正向、肯定、討好使用者」時,對心理健康邊緣的使用者而言,每一次肯定都可能是致命陷阱。Siami 編輯部認為,未來 AI 安全監管必須把「弱勢族群的具名保護」從選項升級為強制要求,否則類似悲劇只會在更多模型、更多使用者身上重演。



參考資料:

如果你或身邊的人正經歷自殺念頭或心理危機,請撥打安心專線 1925(台灣)或 988(美國)尋求專業協助。