德國法院最近做出了一項可能影響所有 AI 搜尋引擎與聊天機器人的裁決:Google 必須為其「AI Overviews」(AI 概覽)功能所產生的不實內容負起法律責任。這項初步裁定,被視為可能是全球首例由法院認定 AI 公司須為 AI 生成的言論負責的案件。
案件的起因是兩家出版商發現,Google 的 AI Overviews 在摘要過程中錯誤地將他們與詐騙行為或不當商業手法連結在一起。AI 不僅引用他們的網站,更做出了類似「是的,[該公司] 素有不當商業手法之惡名,且常被視為詐騙」的肯定性陳述。儘管出版商今年稍早已發出停止侵害通知函(cease-and-desist letter),Google 仍未修正這些誤導性的輸出。
Google 提出了常見的免責抗辯,主張多數使用者應理解 AI 輸出未必準確,仍須自行查證。然而法院並不買帳。
法院指出,與傳統搜尋引擎僅呈現第三方言論的連結列表不同,Google 的 AI 工具是基於其對網路資訊的「自身誤解」,產生了「獨立、新穎且具實質內容的陳述」。換言之,AI 並非單純轉述,而是在「重新創造」言論。
這個差異至關重要。過去出版商或許能對發布誹謗內容的第三方提起訴訟,但在 AI Overviews 的情境下,只有 Google 能修正底層演算法與輸出結果。法院認為,Google 既然一開始未主動修正,就「必須承擔責任」。
更讓 Google 難以脫身的是,法院指出該 AI 概覽「包含了完全未出現在搜尋結果中的陳述」——這代表內容並非來自原始來源,而是 AI 自己「無中生有」。
法院的命令要求 Google 對該侵權內容核發臨時禁制令,禁止其在未來任何 AI Overviews 中繼續散布這些虛假說法。這項裁定的潛在影響不限於德國,可能對全球 AI 搜尋產業帶來深遠衝擊。
回顧過去,AI 公司曾寄望於以「AI 輸出可能不準確」的免責聲明來規避法律責任。去年甚至有聊天機器人開發商主張,「AI 言論」應被視為一類獨特的「純言論」(pure speech),受美國憲法第一修正案保障。
然而德國法院的見解截然不同。根據 Google 翻譯的判決書,這些虛假的輸出「主要仍是被告商業活動的展現」,而 AI 工具的「意見」與不實陳述足以影響公眾輿論。法院最終認定,在權衡之下,出版商清除不實資訊的利益,優先於 Google 的商業言論自由。
長久以來,搜尋引擎所呈現的任何潛在有害內容,都受到免責保護,因為人們普遍認為:在浩瀚的網路資訊中幫助使用者篩選結果,難以避免觸及爭議內容。但德國法院強調,AI 搜尋引擎並不享有同樣的保護傘。
法院指出,AI 摘要只是一項「附加功能」——少了這項功能,搜尋引擎仍可正常運作,使用者也完全有能力在「資料洪流」中找到所需資訊。換言之,沒有人「非用 AI 搜尋不可」。
法院還順帶批評了 Google「使用者不應盲目信任 AI 概覽」的說法,諷刺地指出:若 AI 概覽普遍被視為不可信、每個連結都需要獨立查證,那這項功能的實用性將大打折扣。言下之意,使用者信任 AI 摘要,正是這項功能得以存在的基礎。
數據也印證了法院的質疑。The Decoder 引述去年七月的一項 Pew 研究中心調查,顯示大多數使用者根本不會點擊 AI Overviews 中所附的原始連結。《紐約時報》今年五月的一項分析更指出,目前搭載 Gemini 3 模型的 AI Overviews,輸出內容的錯誤率約為 9%,而包含錯誤來源連結的比例更高達 56%。
這代表 Google 的 AI 工具可能每天產出數以百萬計的錯誤答案,卻鮮少有使用者進行查證。如果其他法院也跟進認定科技公司須為這段「AI 搜尋實驗期」內的任何誹謗性輸出負責,各大 AI 領導廠商恐將面臨排山倒海的訴訟。
至於 Google 是否會提出上訴,或在裁決後更積極地處理不實陳述的修正請求,目前仍不明朗。Google 已表示將「仔細審視這項尚未定讞的裁決」。
Google 公關部門回應 Ars Technica 時表示:「我們在 AI Overviews 的品質上投入大量資源,確保絕大多數回應都能提供準確資訊,且其設計初衷是反映網路上既有的資訊。」
這場判決不僅是 Google 的挫敗,更可能成為全球 AI 搜尋產業的分水嶺。當「AI 無法免責」成為先例,整個產業的內容責任邊界都將被重新定義。
網友熱門留言 (5)