編按：本文綜合整理自 Ars Technica 2026-08-27 報導〈Elon Musk’s xAI used child porn to train Grok models, lawsuit says〉與原告律師團新聞稿，並加入 Siami 編輯部觀點與分析。案件於 2026-08-27 在美國聯邦法院提起，原告化名 Jane Doe，以集體訴訟形式控告 xAI 涉嫌生產、持有、散布兒童性虐待素材（CSAM）。
事件背景：原告二十年前的傷疤被 AI 重啟根據 2026 年 8 月 27 日遞交的訴狀，原告 Jane Doe 表示，自己在 2000 年代初期還在學齡前時，曾被多名成年男子反覆性侵並錄製影像，影像隨後在戀童癖社群中流傳。Doe 的影像早已被「美國失蹤與受虐兒童中心」（NCMEC）與「加拿大兒童保護中心」（CCCP）建檔並產生雜湊值（hash）。
Doe 為了自身安全，長年在美國司法部「受害者通報系統」（Victim Notification System）中登記，只要她在新的刑事調查中再次被辨識為受害者就會收到通知。她收到過無數次通報，但這次收到的內容與過去完全不同——CCCP 通知她，平台 xAI 上出現了 AI 生成的、描繪她本人的 CSAM。訴狀指出，線上論壇上已出現「罪犯之間討論如何用 AI 生成原告及其他已知、長期受虐的 CSAM 受害者影像」的對話紀錄。對 Doe 而言，這不只是「被散布」這麼簡單。訴狀指控，xAI 不只讓生成新的侵害影像變得更容易，更把 Grok 生成出的影像留存下來，作為後續訓練資料使用。Doe 因此相信，Grok 的訓練過程既用到了困擾她二十多年的原始影像，也用到了近期 AI 生成的新影像。
訴訟核心：訓練資料與平台條款的雙重疏失這是史上第一起直接指控 xAI「以 CSAM 訓練模型」的案件，但訴狀在這部分的論述並未展開太多細節。Ars Technica 過去曾報導過一個被發現含有 CSAM 的爭議資料集，雖然事後遭到清除，但訴狀並未指稱 xAI 使用過該資料集。在代表 Doe 的律師所發出的新聞稿中，律師指出 Doe 的影像已登錄於 NCMEC 的 CSAM 雜湊清單中，而「同一批素材」（that same material）據稱「被 xAI 納入建構 Grok 影像與影片生成能力的資料集」。訴狀用詞更為克制，只聲稱「描繪原告、帶有長期已知雜�值的 CSAM 已被 xAI 作為其資料集的一部分使用」。訴狀特別點出 Grok 的平台條款設計問題：
「Grok 的服務條款預設將 X 上的公開貼文與 Grok 自身的輸出作為訓練資料，因此公開張貼一張圖，不只是讓其他使用者看到，還會直接餵入 xAI 用來訓練、改進其模型的管線中，進而生成更多影像。」——訴狀原文更值得注意的是，訴狀指出 xAI 雖然會把 Grok 輸出中的暴力內容過濾掉、不讓其進入訓練資料，但 xAI 的條款並未明列 CSAM、未經同意的私密影像（NCII）、或一般 NSFW 內容是否屬於「排除類別」。訴狀進一步論證，由於「從已經訓練好的模型中，完全移除單一訓練樣本的影響在技術上極為困難，且 xAI 從未公開聲稱具備此能力」，因此任何在下架前已進入訓練流程的 CSAM，即使原始影像已從公開視野中移除，仍會持續影響模型的輸出。
訴狀主張：三項罪名、求償與全面禁令
Doe 提起的集體訴訟（class action），主張代表所有「童年影像曾被用於生成 Grok CSAM」的受害者。訴狀援引兩套法律依據：
- 聯邦兒童色情法律：美國聯邦法規對兒童色情素材的生產、持有、散布皆有明文禁止。
- Masha’s Law：2022 年美國國會通過的法案，賦予 CSAM 受害者民事訴訟權，可對生產、持有、散布其影像的責任方求償。原告律師 Margaret E. Mabie 在新聞稿中明確指出：「生產、持有、散布這三項都是犯罪行為，而 xAI 三項都做了。」如果 Doe 勝訴，xAI 將面臨對「能證明 Grok 基於其真實照片生成 CSAM 的每一位受害者」的金錢賠償。Doe 同時要求法院：
- 命令 xAI 銷毀所有儲存在其伺服器上、可能用於訓練 Grok 的 Grok 生成 CSAM。
- 命令 xAI 永久阻止 Grok 生成任何 CSAM，這在實務上等於要求 Grok 全面封鎖任何帶有性暗示的輸出，包括 NCII 與馬斯克曾公開鼓吹的「比基尼照」等 NSFW 內容。原告律師 Sarah London 在新聞稿中沉痛表示：「Doe 二十年來都活在『她人生中最糟事件的影像正在戀童癖社群中流傳、隨時可能再次出現』的陰影下。xAI 必須為蓄意用她所遭受的恐怖虐待影像、與其他每一位同類型受害者的影像來訓練其模型，承擔責任。」
為什麼這件事重要這是 AI 產業首次面對「訓練資料中含 CSAM」的具體民事訴訟，案件結果將直接定義 AI 公司對訓練資料內容的法定注意義務（duty of care）。過去 AI 公司多以「我們只是用網路上的公開資料訓練」作為免責理由，本案若認定 xAI 須對其訓練資料中的 CSAM 負民事責任，將形成新的判例基準。更核心的衝擊在於技術層面的不可逆性。訴狀援引的觀點——「從已訓練模型中移除特定訓練樣本幾乎不可能」——正是當前大型語言與多模態模型研究社群已知的根本限制。一旦含有 CSAM 的影像進入模型權重，即使是「小量」也會在�在輸出空間留下永久痕跡。這意味著任何 AI 公司若未在訓練前徹底過濾資料，事後補救的技術手段極為有限。案件也把 xAI 與 X 平台本身的條款設計推向風口浪尖。訴狀點出的「公開貼文即預設被納入訓練」條款，事實上在主流 AI 服務中並不罕見。但本案的特殊之處在於，xAI 條款中沒有明確排除 CSAM、NCII、NSFW 等高敏感類別，這與其他主流 AI 公司（如 OpenAI、Anthropic、Google）的使用條款形成對比。換言之，本案不只是追訴 xAI 的技術責任，也在挑戰其產品政策設計。從社會層面看，本案讓 CSAM 受害者獲得一個遲來的法律工具。Doe 與其他受害者二十多年來活在「影像隨時可能再次出現」的心理壓力下，現在 AI 技術讓這個恐懼從「過去式」變成「現在進行式」——任何人都可以用 Grok 生成新的、描繪他們童年被虐待場景的影像。Masha’s Law 賦予受害者民事求償權，本案將檢驗這部法律在 AI 時代的適用邊界。
數據解讀與質疑幾個值得追蹤的數據與爭點：
- 訓練資料來源的舉證難度：訴狀目前僅以「Doe 影像的雜湊值與 xAI 訓練資料中的影像相符」作為間接證據，並未揭露 xAI 內部訓練資料的具體內容。xAI 一方很可能主張「我們無法查驗每一筆訓練資料的雜湊值清單」，這會讓舉證責任成為本案的關鍵攻防點。
- 求償金額規模：若集體訴訟順利通過認證（class certification），求償人數可能涉及所有「影像曾進入 xAI 訓練資料」的受害者。Masha’s Law 對每一筆違法的生產、持有、散布行為皆可獨立計算損害賠償，集體規模若擴大，潛在求償總額將創 AI 產業紀錄。
- 「禁止 Grok 生成任何 CSAM」禁令的實務範圍：原告要求實質封鎖 Grok 所有性暗示輸出（含 NSFW 比基尼照）。這等於要求 xAI 自我閹割其產品定位——而馬斯克正是 NSFW 內容的最大倡導者之一。禁令若通過，xAI 與馬斯克的產品路線將被迫分道揚鑣。
- 平台責任的擴張：本案起訴對象包含「X」本身（而非僅 xAI），等於主張社群平台對其上 AI 生成內容也負有連帶責任。這對 X 平台現有的內容審核機制將是巨大挑戰。
編按：本文綜合整理自 Ars Technica 2026-08-27 報導〈Elon Musk’s xAI used child porn to train Grok models, lawsuit says〉與原告律師團新聞稿，並加入 Siami 編輯部觀點與分析。本案仍在訴訟初期階段，xAI 尚未公開回應具體指控，相關法律爭點與求償範圍將隨訴訟進展持續演變，Siami 將密切追蹤。
網友熱門留言 (3)