← 返回 Siami 首頁

德國法院裁定 Google AI 搜尋須為不實內容負責:AI 公司的言論免責權正在瓦解

▲ 979 💬 519
德國法院裁定 Google AI 搜尋須為不實內容負責:AI 公司的言論免責權正在瓦解

德國法院最近做出了一項可能影響所有 AI 搜尋引擎與聊天機器人的裁決:Google 必須為其「AI Overviews」(AI 概覽)功能所產生的不實內容負起法律責任。這項初步裁定,被視為可能是全球首例由法院認定 AI 公司須為 AI 生成的言論負責的案件。

案件的起因是兩家出版商發現,Google 的 AI Overviews 在摘要過程中錯誤地將他們與詐騙行為或不當商業手法連結在一起。AI 不僅引用他們的網站,更做出了類似「是的,[該公司] 素有不當商業手法之惡名,且常被視為詐騙」的肯定性陳述。儘管出版商今年稍早已發出停止侵害通知函(cease-and-desist letter),Google 仍未修正這些誤導性的輸出。

Google 提出了常見的免責抗辯,主張多數使用者應理解 AI 輸出未必準確,仍須自行查證。然而法院並不買帳。

法院指出,與傳統搜尋引擎僅呈現第三方言論的連結列表不同,Google 的 AI 工具是基於其對網路資訊的「自身誤解」,產生了「獨立、新穎且具實質內容的陳述」。換言之,AI 並非單純轉述,而是在「重新創造」言論。

這個差異至關重要。過去出版商或許能對發布誹謗內容的第三方提起訴訟,但在 AI Overviews 的情境下,只有 Google 能修正底層演算法與輸出結果。法院認為,Google 既然一開始未主動修正,就「必須承擔責任」。

更讓 Google 難以脫身的是,法院指出該 AI 概覽「包含了完全未出現在搜尋結果中的陳述」——這代表內容並非來自原始來源,而是 AI 自己「無中生有」。

法院的命令要求 Google 對該侵權內容核發臨時禁制令,禁止其在未來任何 AI Overviews 中繼續散布這些虛假說法。這項裁定的潛在影響不限於德國,可能對全球 AI 搜尋產業帶來深遠衝擊。

回顧過去,AI 公司曾寄望於以「AI 輸出可能不準確」的免責聲明來規避法律責任。去年甚至有聊天機器人開發商主張,「AI 言論」應被視為一類獨特的「純言論」(pure speech),受美國憲法第一修正案保障。

然而德國法院的見解截然不同。根據 Google 翻譯的判決書,這些虛假的輸出「主要仍是被告商業活動的展現」,而 AI 工具的「意見」與不實陳述足以影響公眾輿論。法院最終認定,在權衡之下,出版商清除不實資訊的利益,優先於 Google 的商業言論自由。

長久以來,搜尋引擎所呈現的任何潛在有害內容,都受到免責保護,因為人們普遍認為:在浩瀚的網路資訊中幫助使用者篩選結果,難以避免觸及爭議內容。但德國法院強調,AI 搜尋引擎並不享有同樣的保護傘。

法院指出,AI 摘要只是一項「附加功能」——少了這項功能,搜尋引擎仍可正常運作,使用者也完全有能力在「資料洪流」中找到所需資訊。換言之,沒有人「非用 AI 搜尋不可」。

法院還順帶批評了 Google「使用者不應盲目信任 AI 概覽」的說法,諷刺地指出:若 AI 概覽普遍被視為不可信、每個連結都需要獨立查證,那這項功能的實用性將大打折扣。言下之意,使用者信任 AI 摘要,正是這項功能得以存在的基礎。

數據也印證了法院的質疑。The Decoder 引述去年七月的一項 Pew 研究中心調查,顯示大多數使用者根本不會點擊 AI Overviews 中所附的原始連結。《紐約時報》今年五月的一項分析更指出,目前搭載 Gemini 3 模型的 AI Overviews,輸出內容的錯誤率約為 9%,而包含錯誤來源連結的比例更高達 56%。

這代表 Google 的 AI 工具可能每天產出數以百萬計的錯誤答案,卻鮮少有使用者進行查證。如果其他法院也跟進認定科技公司須為這段「AI 搜尋實驗期」內的任何誹謗性輸出負責,各大 AI 領導廠商恐將面臨排山倒海的訴訟。

至於 Google 是否會提出上訴,或在裁決後更積極地處理不實陳述的修正請求,目前仍不明朗。Google 已表示將「仔細審視這項尚未定讞的裁決」。

Google 公關部門回應 Ars Technica 時表示:「我們在 AI Overviews 的品質上投入大量資源,確保絕大多數回應都能提供準確資訊,且其設計初衷是反映網路上既有的資訊。」

這場判決不僅是 Google 的挫敗,更可能成為全球 AI 搜尋產業的分水嶺。當「AI 無法免責」成為先例,整個產業的內容責任邊界都將被重新定義。

網友熱門留言 (5)

#1 Hfuffzehn ▲ 412
如果我理解得沒錯,我支持這項裁決。Google 過去建立了一個叫做「搜尋」的產品,並為該產品制定了相應的規則。Google 把這個產品做成壟斷。現在 Google 用新產品取代了它,但卻繼續沿用同一個名稱,因為他們想保住壟斷地位——這才是被認定為違法的事情。Gemini 本身不違法。把最差版本的 Gemini 偽裝成搜尋引擎才違法,因為這違反了搜尋產品所建立的規則。但我不是律師。
#2 brainwad ▲ 287
這跟壟斷無關。Google 在搜尋業務中之所以能享有誹謗法的免責保護,是因為搜尋結果的標題與摘要都是來自連結頁面的直接引用。然而在 AI Overviews 中,文案是由 Google 控制的 LLM 所撰寫的。
#3 Saline9515 ▲ 195
值得注意的是,德國的誹謗法門檻非常低,企業經常因為 Google Maps 上低於 5 星的評論而起訴使用者,Google 還因此不得不調整評論顯示方式。三星評論會因「誹謗」而被刪除。結果就是:德國的服務品質依然糟糕(尤其當你有小孩時),但至少沒有人敢抱怨!
#4 keyle ▲ 168
我對這居然能成案感到驚訝。不行,你不能主張享有類似美國避風港原則的免責。你把這東西當作搜尋摘要賣給使用者,明知它可能滿是廢話,卻仍然選擇這麼做。標示為搜尋摘要,與提供主觀意見式的答案,兩者之間存在微妙的差異。
#5 CamperBob2 ▲ 87
在理性的國家中,貼個免責聲明(「這是 AI,AI 可能犯錯,請自行查證所有結果」)就夠了——Google 也是這樣做的。過度監管,說好聽一點,是保證你的國家將無法使用那些有趣且實用的功能與技術;說難聽一點,則是保證 21 世紀將由美國(如果還不是中國)主宰。