編按：本文綜合整理自 Ars Technica、Wired 原始報導、Engadget、The Guardian，並加入 Siami 編輯部觀點與分析。
舊金山城市檢察長 David Chiu 本週對 Apple 與 Google 發出停止侵害通知（cease-and-desist letters），要求這兩家公司從旗下應用商店下架 13 款所謂的「AI 脫衣」（nudification）應用程式。這是地方政府首次明確針對應用商店平台開刀，要求平台對上架的 AI 性影像生成工具負起連帶責任。
13 款應用被點名 Google 5 款、Apple 8 款
根據 Wired 取得並由 Ars Technica 引述的信件內容，Chiu 要求 Google 從 Play 商店移除 5 款應用、要求 Apple 從 App Store 移除 8 款。Wired 報導指出，信件中並未列出應用程式的名稱，避免「把人推往這些應用」。但其中一款已有超過 100 萬次下載，並主打能「把女性影像性化」或生成「免費且無審查」的影片。
這 13 款應用的共同特徵是：能把真人的普通照片一鍵轉換成色情影像。AI 工具讓有心人士可以脫掉衣服、改變人物特徵、把人擺進性暗示姿勢、或把受害者的臉移植到其他裸體上。
Chiu 在信中警告，應用商店正在違反「加州禁止支援深偽色情服務的法律」。他告訴 Wired，他的辦公室對這項技術的普及程度「絕對被嚇壞了（absolutely horrified）」——受害人以女性與兒童為主，規模隨著工具增加而急速擴大。
Chiu 接受 Wired 採訪時說：
「這些影像被用來霸凌、羞辱、威脅女性與女孩。這個產業對一個人的名譽、心理健康、自主權有恐怖的影響。有受害者已經出現自殺念頭。」
Apple 沉默、Google 辯稱「已主動偵測」
面對媒體詢問，Google 發言人 Dan Jackson 表示 Chiu 點名的 5 款應用已因違反有害內容政策被 Google Play 商店停權。他說：
「Google Play 不允許含有色情內容的應用，該公司會持續主動偵測並下架有害內容的應用。當違規被回報時，會調查並迅速行動——以這些案例來說，Google 已經停權數百款違規應用，並限制『nudify』等相關搜尋字詞在商店上的使用。」
Apple 則未回應 Ars Technica 的置評請求。這份沉默背後，其實正是文章後半段要談的關鍵：對照 Apple 過去處理 Grok 的態度，這家公司不是不能管，而是不想管。
Chiu 辦公室估計，Apple 與 Google 長期以來已從這些應用賺進「數百萬美元」費用——是忽視有害內容、而非強化偵測機制的結果。
為什麼這件事重要
這次行動的真正意義，不在於下架 13 款 app，而在於地方政府首次把應用商店平台拉進問責鏈。
過去 AI 性影像爭議的被告都是終端使用者或模型開發者（xAI 的 Grok、Stability AI），平台層從未被追究。Chiu 的信函等於改寫遊戲規則：如果你上架、分潤、推薦這些應用，你就是共犯結構的一環。
這也讓 Minnesota 在 2026 年初通過的全美第一個 nudify app 州禁令有了延伸戰場。加州早自 2024 年 9 月起就由州長 Newsom 簽署三項深偽性影像相關法案（SB 926 等），但過去執法對象是製造端。如今舊金山把劍指向通路端，等於補上執法最後一塊拼圖。
更值得注意的是，這次行動剛好撞上 xAI 於 7 月 16 日反向控告使用 Grok 製造兒少性影像（CSAM）用戶的時間點——同週之內，市場同時看到「AI 公司告用戶」與「州政府告平台」兩種完全相反的問責方向。Siami 認為，這代表 AI 性影像的責任歸屬，正在從「使用者行為」重新被框定為「平台設計問題」。
數據解讀與質疑
把這次行動放進更廣的數字來看，幾個關鍵指標值得注意：
- 70%：5 月發表的預印本論文測試 155 款主打「換臉」的應用，發現其中 70% 可用於 nudification。這代表「換臉工具」與「脫衣工具」在技術上根本無法清楚切割——任何上架的 face-swap 應用，都可能是 nudify 應用的變體。
- 100 萬下載：單一應用規模已破百萬，意味著 Apple 與 Google 的審核機制不是沒看到，而是選擇性失明。
- 「數百萬美元」：Chiu 辦公室估計兩家公司從這類應用賺取的費用，相較於這些應用造成的社會成本（性影像犯罪、自殺率、被害人心理創傷），完全不成比例。
值得質疑的是：Apple 從 4 月起就被參議員私下警告 Grok 違規，至今仍未下架。同一個 Apple，現在卻被期待會對 Chiu 的信函迅速反應？兩種標準同時存在，說明平台業者的「自律」承諾從來都不是可信賴的執法工具。
Wired 也點出另一個警訊：研究人員發現，新一代有害應用已經學會「上架時只宣稱換臉功能、把 nudify 能力藏在底層」來閃避審核。這場攻防的技術演進速度，遠比立法與平台政策更新快。
接下來會怎麼走
Chiu 在信中明確表示，如果 Apple 與 Google 不立即下架這些應用、強化審核機制，他的辦公室「會考慮所有法律選項」。這句話的法律份量不輕——舊金山城市檢察長辦公室過去對 Airbnb、Uber 等平台發動過多起改變產業規則的訴訟。
短期內，預期會看到：
- Apple 與 Google 在 30 天內部分下架被點名應用，但不會承認這是法律壓力下的讓步
- 應用商店審核規範增加 AI 性影像專條，但實際執行會有大量灰色地帶
- 其他州（特別是紐約、華盛頓）跟進立法，要求平台對 AI 性影像應用負連帶責任
- xAI 與 Grok 的爭議持續延燒——因為它的處理標準正好是測試 Apple「會不會真的管」的最佳壓力源
Siami 認為，這次事件最大的長期意義，是把「AI 應用的社會成本」從開發者責任、推到了通路平台責任。一旦這個判例在加州確立，整個 App Store / Google Play 的內容審核哲學都會被重新改寫——而這才是科技巨頭真正害怕的。
編按：本文綜合整理自 Ars Technica、Wired 原始報導、Engadget、The Guardian，並加入 Siami 編輯部觀點與分析。
網友熱門留言 (5)