編按：本文綜合整理自 TechSpot 一手報導，並補充 Anthropic 官方威脅情報報告（2026 年 9 月）、Ars Technica、Cybernews 與 Hacker News 社群討論，加入 Siami 編輯部觀點與分析。
佛州邦尼塔泉（Bonita Springs）三十歲女子卡莉·米歇爾·海勒（Carli Michelle Heller），把 Anthropic 旗下聊天機器人 Claude 當成「日記」使用，卻在九月二十六日寫下要「掃射」（shoot up）李郡（Lee County）警長辦公室的內容。這段對話被 Claude 內建安全系統攔截、轉給人類審查員，最終一路被通報到執法單位，海勒隨即面臨佛州二級重罪（felony）告訴。
事件時序：從威脅訊息到上門拘捕
根據流出的逮捕報告，事件經過大致如下：
- 9 月 26 日：海勒在 Claude 對話中明確寫到要攻擊李郡警長辦公室。
- 自動標記：Claude 安全系統自動將該則訊息標為可疑，轉交人類審查員複核。
- 人類判讀：審查員認定此為「可信威脅」，決定通報執法單位。
- 執法行動：李郡警長辦公室根據 Anthropic 提供的線索確認海勒身分，派人前往住處；她在無對抗情況下被帶回訊問，案件由 LCSO 情報偵查組接手。
海勒最終被依佛州法規 §836.10「書面威脅暴力罪」起訴——這條法律明定，任何人以可被他人檢視的方式，傳送、發布威脅要殺人或造成嚴重傷害、進行大規模槍擊或恐怖行動的文字或電子紀錄，都構成二級重罪。
Anthropic 對外說明，公司僅在「極少數緊急情況」、且認定有必要防止死亡或嚴重人身傷害時，才可能分享使用者資訊。海勒案是這項政策第一次有公開紀錄的執法案例。
為什麼這件事重要
這不是「AI 自動報案」這種科幻情節，而是真實發生、有人被起訴重罪的案例。從 AI 倫理與產品設計角度，這件事把三個一直模糊的問題一次攤開來：
第一，AI 公司對使用者對話的法律義務與道德邊界，到底畫在哪裡？ Anthropic 早在 7 月更新隱私條款，賦予自己主動通報的權限。當時這只是政策文字；現在它有了第一個真實被告。
第二，「把 AI 當日記」是普遍行為，不是個案。Anthropic 自家的九月威脅情報報告（2026 年 9 月 10 日發布，涵蓋 2025 年 12 月到 2026 年 8 月的監測數據）就明列，使用者與 Claude 的深度情感對話、長期「陪伴型」使用，是他們持續觀察的風險場景。海勒案只是冰山露出來的一角。
第三，執法與 AI 廠商之間的「私下通報」管道，目前完全沒有公開監督機制。我們不知道 Anthropic 一年通報了多少次、依據什麼標準、哪些國家、哪些執法單位，也沒有獨立的覆核機制。
數據解讀：不是單一事件
把海勒案單獨看容易陷入「該不該抓她」的口水戰。但若把視野拉遠，會看到更清楚的訊號：
- 加拿大不列顛哥倫比亞省上月控告 OpenAI 與 Sam Altman，指該公司本可預防省內一起大規模槍擊但未通報。槍手 Jesse Van Rootselaar 十八歲，OpenAI 安全團隊曾經標記過她對槍械暴力的對話，但因「未達通報門檻」而未報案。
- 佛州同月在另一案起訴 OpenAI，指控 ChatGPT 助長 2025 年佛州州立大學槍擊案等真實傷害。
- 微軟 Copilot 影像編輯器上月被揭露：外包人類審查員可以看到使用者提示詞、上傳照片與 AI 生成結果，部分內容涉及性、令人不安或可能違法的素材，雖然審查員只評估輸出準確度，沒有「通報」的設計。
四個案例放在一起，方向很清楚：AI 公司正被外部壓力推向「更主動通報」的方向，但這條線的法律框架、獨立監督、當事人救濟管道都還沒建立起來。 Anthropic 做了、OpenAI 被告、微軟被質疑，三家路徑不同，但都面對同一個問題。
質疑：通報的正當程序在哪裡
Siami 編輯部認為這起事件最值得追問的不是「海勒該不該被抓」（她寫下公開威脅本來就有法律責任），而是「這條從自動標記到上門拘捕的鏈條，是誰授權、誰監督、誰可以挑戰？」
幾個值得進一步追問的問題：
- 審查員的判斷依據是否可被當事人覆核？ 海勒後續宣稱她只是把 Claude 當日記寫情緒、不是真的要去動手。即便假設她確實有攻擊意圖，被告知「AI 對話被通報」這件事的法律依據與救濟程序，目前都不存在。
- Anthropic 是否會公開每年的通報件數與類型？ 公司說「僅在緊急情況」才通報，但「緊急」誰定義？每年 5 件還是 500 件？我們不知道。
- 歐盟 AI 法案、美國各州法律對「AI 對話證據力」的態度是否一致？ 這個問題兩年內一定會打到最高法院。
- 開源模型是不是唯一解方？ HN 留言區已經有使用者指出，未來如果開源模型被禁，這類「Big Tech 監控你的想法」的場景只會更普遍。
接下來可以關注什麼
- Anthropic 10 月是否會發布單獨聲明回應此案？目前為止只有政策頁與技術部落格的間接說明。
- 佛州檢方是否會持續推進二級重罪？§836.10 需要證明「可被他人檢視」，但 AI 對話是否能算「公開威脅」，辯方有相當大空間挑戰。
- 其他 AI 公司是否會跟進強化通報機制？預期短期內會看到更多 AI 廠商在隱私條款加入類似 Anthropic 7 月更新內容的條文。
主要資料來源（白名單）
- TechSpot：Florida woman used Claude as a diary, then Anthropic reported an entry to police（2026-10-04）
- Anthropic 官方：Detecting and countering misuse of AI: September 2026（一手威脅情報報告）
- Hacker News 討論串：news.ycombinator.com/item?id=49961057
- Cybernews：Claude diary threat: Florida woman reported to police
- Ars Technica：Anthropic’s new Claude feature can leak data—users told to monitor chats closely
給讀者的提醒：無論你用的是哪一家 AI，對話內容都不等於私人日記。寫在 AI 對話框裡的文字，跟寫在部落格或社群媒體上一樣，是可以被業者存取、在特定情況下被揭露的。如果你正在經歷情緒低潮或自我傷害的念頭，請直接撥打安心專線 1925（衛福部 24 小時專線）——這不是 AI 能處理的工作。
Siami 觀點：這不是「Siami 翻譯稿」，而是獨立編輯產出。觀點僅代表 Siami 編輯部立場，不構成法律建議。
網友熱門留言 (5)