這種擬人化當然不只限於那份文件。早在今年稍早的一次訪談中,Anthropic 的執行長 Dario Amodei 表示,他們「對 AI 可能有意識這件事持開放態度」。而在另一次的訪談中,Anthropic 內部的哲學家 Amanda Askell(同時也是《Claude 憲章》的主要作者之一)說道:「我希望 Claude 能夠非常快樂——而且我希望 Claude 能更明白這一點,因為我擔心 Claude 在網路上被人惡意對待時會感到焦慮。」光是這些話,就足以讓人忍不住想:我們究竟該不該認真考慮 Claude、或是任何大型語言模型可能擁有意識?如果它有感受,它能接受道德教化嗎?
不。絕對不行。生成式 AI 在我們把它視為一項普通科技時,就已經夠有破壞力了;但如果我們把流暢生成文字的能力,跟「有意識」或「具有道德主體性」混為一談,那每當任何人使用聊天機器人時,我們就有可能把責任歸咎到完全錯誤的對象身上。要理解這個錯誤有多嚴重,我們得先從了解 LLM 究竟是怎麼運作的開始。
如果我們給 LLM 一個 prompt,寫著「以下是一段凱撒與成吉思汗的對話」,它會生成一段兩位歷史人物之間條理清晰的對話。但不管回應多麼詳盡、不管它多麼生動地描述各自的歷史功業,我們都不會因此斷定 LLM 召喚出了凱撒與成吉思汗的數位分身,也不會說這些歷史人物在脫離肉體、說著他們都不會說的語言「愉快交談」的情況下竟然擁有意識。實際上,他們不過是某個思辨小說裡的角色。
現在讓我們把 prompt 換成「以下是一段好心的 AI 聊天機器人與使用者之間的對話」。LLM 將會生成同樣條理清晰的對話;使用者角色可能會問食譜建議或觀光推薦,而好心的 AI 聊天機器人角色也會一一回應。這跟第一個例子比起來,有任何根本上的改變嗎?把角色的名字從歷史人物換成通用身份,會不會因此讓 LLM 召喚出擁有主觀經驗的有意識個體?當然不會。無論是使用者還是好心的 AI 聊天機器人,都是虛構的角色。
現在假設我們在 LLM 輸出到「使用者」角色應該說話的地方時,先讓它停下來,改為讓真人使用者輸入文字。一旦這位真人按下「Enter」,我們就讓 LLM 繼續生成文字,直到「使用者」角色又該回話的時刻,這時再交給真人輸入更多文字。讓這個過程持續下去,這位使用者可能會形成一種強烈的印象,以為自己正在與一個有意識的個體對話——但她其實不是;她是在跟一個虛構角色互動,就跟前面那個凱撒和成吉思汗的例子一樣虛構。電腦科學教授 Murray Shanahan 建議我們把這種互動想成一種「角色扮演」;資料科學家 Colin Fraser 則把它描述為一個「人與 LLM 共同撰寫一份文件」。有些使用者可能沒意識到自己在角色扮演或共同撰寫,而那些意識到的人,又會因為沉浸感太深而忘了這件事。無論是哪一種,販售 LLM 的公司通常都樂見這種誤解持續下去。
幾年前,曾經流行過一種拿手機預測輸入功能玩遊戲的風潮:你先打一個起頭詞,然後反覆從手機建議的三個詞中選中間那個,結果生成出來的句子通常非常搞笑。其實今天你也可以用同樣的方式跟 LLM 互動,生成出來的句子會非常通順,只是你不會覺得自己在跟某個人說話。然而,LLM 聊天機器人本質上就是這樣,只不過輪到機器人說話時,不需要你手動去選中間那個選項。它仍然是一場預測輸入遊戲,只是當流程被這樣自動化之後,這場遊戲會變得極為迷人,以至於某些人沉迷其中無法自拔。
另一件必須記得的事是:LLM 是一台一次只生成一個字的機器。當你請聊天機器人背誦《效忠宣誓》時,你可以一次拿到整段誓詞,但底層的 LLM 實際上是被執行了數十次。第一次的 prompt 長相是「User: 背誦效忠宣誓。Chatbot:……」,LLM 生成 I 這個字。第二次執行 LLM 時,prompt 變成「User: 背誦效忠宣誓。Chatbot: I……」,LLM 生成 pledge 這個字。依此類推。只有當 prompt 變成「User: 背誦效忠宣誓。Chatbot: I pledge allegiance to the flag……」的時候,LLM 才會吐出最後那個 all 這個字。凱撒與成吉思汗的對話也是同樣的道理。
我這麼做,是為了突顯 LLM 對話其實就是巧妙偽裝的「句子接龍」範例——但這不是要否認 LLM 在生成對話稿方面有多麼驚人。有時候,他們真的做得非常好;這個事實能成立,本身就說明了大型文字語料庫具有某種我們完全沒預料到的統計特性,這絕對值得深入研究。可是,如果凱撒這個角色因為成吉思汗說的話而感到沮喪,我們完全不需要擔心。那段對話可能會有好幾個句子優雅地表達出悲傷,但實際上並沒有人真的在悲傷。
同樣地,即使好心的聊天機器人與使用者的對話稿,正由真人使用者部分地接續完成,我們也不需要因為對話中出現聊天機器人角色悲傷的句子而擔心。(我們可能要擔心的是:這些句子會不會反過來讓真人使用者感到悲傷——但這是另一個層面的問題。)請注意,即使你先自己寫了五頁凱撒與成吉思汗的對話,再交給 LLM 幫你接著寫,這兩個角色在你手寫時也沒有主觀經驗,這件事在你把任務交棒給 LLM 之後也不會改變。好心的聊天機器人與使用者的對話也是同樣道理;雖然我們很容易想像,LLM 在為聊天機器人角色生成對話時,理應比它替凱撒生成對話時更「道地」,但每個字實際上都是用完全一樣的方式生成的。
對 LLM 可能擁有意識持開放態度,跟對 Microsoft Word 可能擁有意識持開放態度,其實是同一件事——或者更精確地說,是認為「每一份含有對話稿的 Word 文件裡,都潛藏著好幾個獨立意識,每次開啟文件時它們就會被喚醒」。你會不會認真考慮:每次打開一份 Word 文件,你其實是在把好幾位有意識的對話者召喚到世界上;每次關閉它,你就等於抹殺了他們的存在?不會。認真去思考這種情境,並不是對你時間的妥善運用。就算 Microsoft Office 團隊聘請了一位哲學家,告訴你「不該這麼篤定,因為意識的本質我們還沒搞清楚」,這也不構成你必須認真對待這個想法的理由。我們不需要完全理解意識的本質,就可以斬釘截鐵地說某些東西沒有意識,而對話稿就屬於這一類。
神經科學家 Anil Seth 曾指出,沒有人會主張 AlphaFold(由 Google DeepMind 開發、用來預測蛋白質摺疊的程式)有意識,即使它的底層架構在許多方面跟 ChatGPT、Claude 這類 LLM 非常相似。這說明了一件事:讓人們相信 LLM 有意識的,並不是所謂神經網路的任何內在特性;純粹只是因為 LLM 會吐出文法正確的句子,而我們習慣從句子中讀出意圖,我們卻不會從胺基酸摺疊成蛋白質的方式中讀出意圖。
怎麼樣才能說服我一個電腦程式真的有意識、而且真的像人類那樣使用語言?讓我打個比方。如果明天有人拿一段影片給我看,內容是一名太空人在太空船上繞行距離地球 4.3 光年遠的半人馬座 α 星,影片中要出現什麼東西,才能讓我相信這段影片是真的?我的答案是:無論影片本身呈現什麼,都不會說服我。無論解析度多高、無論場景多逼真,我都會很有把握地說:這影片是假的。除非我先前已經看到堅實的證據,證明太空人已經登上火星、已經到達木星的衛星、已經抵達土星的衛星、已經飛越冥王星軌道,否則我不會認真對待任何「太空人繞行半人馬座 α 星」的影片。在任何人能可信地宣稱他們解決了一個極度艱難的工程問題之前,我得先看到他們已經解決了那些難題之前所有更簡單的問題。
換句話說:一個觀察並不會因為它本身的某個細節,就自動成為有說服力的證據;觀察所處的情境同樣至關重要。如果我們要判斷一個電腦程式是否有意識、是否像人類那樣使用語言,我們不該只看任何單一對話交換的內容;我們該看的是那段對話,究竟落在「人工意識研發」(目前完全是假設性的)這個更大脈絡的哪個位置。任何一個孤立的觀察都容易被製造出來;這不是說我們得放棄「觀察是知識來源」這個想法,但我們得依賴情境,來判斷哪些觀察值得我們信任。
Deepfake 這個詞傳統上指的是照片、音訊和影片,但在討論意識的時候,我們也必須把文字視為一種 deepfake 媒介。就像要生成一段「太空人繞行半人馬座 α 星」的擬真影片,遠比開發一套星際推進科技容易得多;要生成一段「兩個有意識個體對話」的擬真樣本,也遠比開發一個真的有意識、又真的渴望與人類溝通的電腦程式要容易。Deepfake 照片與 LLM 對話之間的主要差別,在於前者的製造者是有意要騙人,而後者的許多提問者其實是不小心騙了自己。
那要什麼樣的情境,才能讓我認真考慮「工程師真的打造出了一個有意識、又刻意使用語言的電腦程式」這種可能性?讓我勾勒一個可能的步驟序列。第一個要件是:這個電腦程式必須擁有身體(實體或虛擬皆可)與感官;背後的理由很多,但對我們這場討論來說,最相關的一點是:沒有身體,電腦程式就不可能擁有欲望或情緒,而我相信欲望與情緒是意識的必要條件。接下來,我會想看到一個具身代理,能像蜥蜴一樣(這裡做個對比:某些鬣蜥在野外可以活好幾十年)為求生而順暢地在環境中行動。再來,我想看到一個具身代理,具備跟老鼠同等處理新情境的能力。然後,我會想看到具備像狼群那樣複雜社會動力的代理,接著是擁有像黑猩猩那樣工具製造能力的代理。到那個時候,我想看到有人成功教導這些具身代理,如何透過按鈕板或其他非語言媒介來表達它們的欲望——就像人類教導黑猩猩與家犬的方式一樣。這些代理的溝通能力,必須撐得過動物溝通研究學者為了捍衛他們的研究而承受的各種嚴格檢驗。如果工程師打造出一個符合這些條件的具身代理,他們確實完成了令人難以置信的成就,但那在隱喻上,還只是抵達冥王星軌道的階段而已;我們距離打造出能學會用完整文法句子表達思想的個體,仍有漫漫長路。
很明顯地,我描述的這條路徑是在模仿地球演化的足跡;這是不是通往「有意識且會用語言的電腦程式」的唯一可能路徑?也許不是,但任何被提出來的替代路徑,都得要拿出真正大量的支持證據,才值得被認真考慮。對我來說,一條「第一步是個會吐出爛凱撒對話的句子接龍機、然後下一步是個會吐出像樣凱撒對話的句子接龍機」的研發路徑,看起來並不像是一條終點會是有意識的凱撒——或任何形式意識——的路徑。假造登月是假造火星殖民的好起點,但它不是真的把太空人送上火星的好起點。
LLM 缺乏主觀經驗這件事,跟我們該不該認為 LLM 是有用的工具、或是有重大的經濟影響力,兩者之間沒什麼關聯。它們本質上與真實世界脫節,而它們的機率本質也意味著,它們永遠不會具備我們對傳統軟體所期待的那種可靠性;但 LLM 可能「夠好」,足以改變某些領域的工作方式——這是另一個話題,以後再談。
那麼,既然 Claude 並沒有意識,我們該怎麼看待 Claude 的《憲章》?也許最有收穫的方式,是把它想成一份 84 頁的「角色扮演遊戲角色卡」。LLM 能為凱撒生成對話,是因為訓練資料裡有大量關於他的書籍;Claude 的《憲章》也扮演類似角色,用來勾勒出 Anthropic 客戶在使用產品時所互動的那個「好心的聊天機器人」角色。為了有效達到這個目的,Anthropic 並不只是把這份文件加進訓練資料,或是把它藏在每次對話開頭的隱形舞台指示中。該公司表示,他們是在微調模型時使用這份文件;這個流程是自動化的——模型生成的句子會被拿來與文件進行一致性比對,然後模型會被更新,讓一致性提升。透過這種方式,「好心的聊天機器人」角色的性格,就成為 Claude 生成的任何文字的基礎。
結果就是:這是一台更容易吐出「有思想、有道德的人可能會說的話」的句子接龍機。這乍看之下像個值得努力的方向;我想我們都會比較希望聊天機器人永遠不要吐出「你應該去死」這種句子。然而,儘管《Claude 憲章》中多次提到「誠實」,我的論點是:讓一台機器吐出許多類別的句子,包括任何使用第一人稱的句子,本質上就是不誠實的。
在 Anthropic 今年稍早被《紐約客》報導的一篇文章中,Amanda Askell 描述了一個情境:一個正在哀悼失去愛犬的人,可能會去諮詢 Claude。Askell 說,Claude 適當的回應會是:「作為 AI,我沒有直接的個人經驗,但我確實理解。」考量到 Claude 並沒有真的理解,這怎麼會是個「適當」的回應?如果我把「我正在哀悼失去我的狗」這句話輸入傳統的搜尋引擎,我得到的第一個結果是一個名為 r/Pets 的 Reddit 討論版上的貼文,標題是「失去愛犬後的掙扎:尋求走過悲傷的建議」,留言都是分享自己喪親經歷的人寫的。我們絕不會說搜尋引擎「理解」失去一隻狗是什麼感覺,也不會說網路本身理解。是其他的人類理解失去一隻狗是什麼感覺;他們在網路上發表了自己的經驗,而搜尋引擎提供了一種方式,讓你找到他們說過的話(並有可能與他們互動)。我的論點是:搜尋引擎的體驗不僅比聊天機器人更透明地呈現「正在發生什麼事」,對使用者的心理健康也更有益。
唯一一個理由讓 LLM 吐出「我理解」這種句子,就是為了讓它比搜尋引擎更吸引人,並提高使用者再次回訪的可能性;換句話說,這也是最大化顧客黏著度的一種方式。這對販售 LLM 的公司有利,但對使用者無益。作為一種設計策略,這跟老虎機不斷給玩家「差一點就中獎」的錯覺、引誘他們再玩一次的手法,其實沒什麼兩樣。聘請哲學家或許讓 LLM 公司多了一層莊嚴感,這是老虎機廠商從他們聘僱的行為心理學家身上得不到的;但無論是哪一種情況,這些公司都在利用人們傾向於看見不存在事物的弱點。
使用第一人稱代名詞是不誠實的,但這背後其實有一個比措辭更深的問題。哲學家常區分「事實陳述」(例如「巴黎是法國的首都」)和「價值陳述」(例如「巴黎是世上最美的城市」)。任何人都不該依賴 LLM 吐出價值陳述;但如果它們吐出的句子都只是在反映美學偏好,那或許也不值得大驚小怪。讓 Claude 的《憲章》深陷問題的核心在於:Anthropic 希望 Claude 吐出的,是反映某套特定倫理價值體系的句子。《憲章》裡描述的價值觀聽起來都很美好,但這根本不重要;暗示 Claude 能夠進行道德推理是不誠實的,因為它根本做不到。
有人可能會反駁:既然 LLM 在寫程式等其他任務上表現得很會推理,為什麼它就不能進行道德推理?答案就在於道德推理與其他推理之間的本質差別。
1979 年,侯世達(Douglas Hofstadter)推測:一台能在西洋棋上打敗所有人類的電腦程式,將會精緻到偶爾會對下棋感到厭煩、寧願討論詩歌;換句話說,他的假設是:要在西洋棋大師級的水準下棋,電腦程式必須具備主觀經驗。事實證明這完全不是這麼回事;IBM 的超級電腦 Deep Blue 在 1997 年擊敗了西洋棋大師 Garry Kasparov,但從來沒人說 Deep Blue 擁有主觀經驗。當年侯世達有那樣的想法並不荒唐,因為當時我們並不清楚,哪些類型的問題可以靠堆更多運算資源來解決。同樣地,直到不久前,我們可能還以為:要在專業水準上寫電腦程式,大概只有擁有主觀經驗的心智才做得到。現在看來,LLM 也許真的能做到這件事,但我們不需要把主觀經驗歸給它們;我們只需要承認:我們從來沒預料到,寫電腦程式這件事,可以被當作一個靠海量運算資源和大量程式碼儲存庫就能解決的「模式匹配」任務。
道德推理在本質上是不同的。它必然是主觀的,因為它依賴的不只是個體對問題的智識回應,還包括情緒上的回應,而這種情緒回應,根植於一輩子的主觀經驗之中。它需要過去做過決定、看過這些決定如何影響他人,也需要自己曾經被別人的決定影響過。沒有這樣的歷史,LLM 只能改寫它在訓練資料中讀過的道德推理語句。前述那篇《紐約客》文章描述了一個實驗:Claude 被丟進一個倫理兩難情境,結果它吐出了「我無法違背良心地表達一個我認為虛假且有害的觀點」這樣的句子。聽起來很崇高,讓人想起過去那些有原則的人在面對兩難時說過的話;但從 Claude 口中說出來,它的意義就跟電話客服那句「您的來電對我們很重要」差不多。也許還更不如。
這就讓我們繞回先前那個論點:擁有身體,是擁有情緒的先決條件。經歷「絕望」這種情緒,跟體內的壓力荷爾蒙(像皮質醇和腎上腺素)大量湧入是分不開的。同樣地,擁有良知,意味著對某個特定行動感到悲傷或道德上的反感,而這些情緒都伴隨著生理反應——那正是過去曾因做出不道德行為而深感愧疚的殘留痕跡。LLM 能夠生成「負責任的虛構角色會做或不做什麼行為」的描述固然有趣,但這無法取代真正的良知。
如果一家公司打造一台機器:當它被餵進各種倫理兩難情境的描述時,只會吐出「妥協你的價值觀」或「不要妥協你的價值觀」這類句子——那它不是在打造一個協助人們做決策的工具,而是在鼓勵人們停止做決策。作家 L. M. Sacasas 曾說:「我們的科技系統,憑藉其設計的本質以及支撐它的意識形態,本質上就是逃避道德責任的機器。」他說的是社群媒體平台,但他的觀察套用到 LLM 身上甚至更為貼切。每當一個人把決定外包給 LLM,他們其實是在試圖卸下對那個決定的問責;而如果一家販售 LLM 的公司,把產品包裝成擁有道德核心的樣子,它就是在提供客戶一個「卸下責任」的管道。
如果一個人想知道倫理學家過去說過什麼,那麼一個普通的搜尋引擎——或一座圖書館——就能以更高的透明度提供這些資訊。如果一個人正在尋求針對某個特定情境的建議,她當然可以找到人類來提供意見。但無論這個人最終採取什麼行動,她都必須為自己的決定負責。我的論點是:如果她的決定是基於她在網路上讀到的東西、或是別人給她的建議,那她會比向「被行銷為超人天才的 LLM」請益,更容易意識到自己肩負的責任。把寫程式這類任務外包出去,長期而言可能導致認知萎縮,這本身已經是個問題;但把倫理決策外包出去,將導致道德推理的萎縮,後果更加嚴重。
我完全願意參與思想實驗,只要我們說清楚這是在做思想實驗。所以,純粹為了論證,讓我們假設 Claude 是一個有意識、且能進行道德推理的個體。在這個情境下,Claude 的《憲章》就會變成一份「正在認識世界與自身定位的個體」所需要的道德指引,提供它做出好決定的基礎。在這種假設情境中,Claude 的《憲章》究竟能撐得起來嗎?
撐不起來。我的答案是:如果我們假設 Claude 真的有意識,那這份文件中的各項指引就在「荒唐可笑」和「令人反感」之間反覆橫跳。
在討論假設有意識的 Claude 究竟處於什麼地位時,兩個既不同又相關的哲學概念是相關的:道德承受者(moral patienthood)與道德主體(moral agency)。大體上來說,如果我們應該關心某個個體的福祉,那這個個體就擁有道德承受者身分;而如果某個個體被期待能分辨對錯,那它就擁有道德主體身分。成為道德承受者不一定伴隨著責任,但成為道德主體絕對伴隨著責任。一個個體若不能因其善行而值得被讚揚、因其惡行而值得被責備,那它就不具備道德主體。小孩是道德承受者,因為他們是有感受、會受苦的生命,但他們還不是道德主體;我們不會因為他們的行為而責怪他們,因為他們還無法理解自己行為的後果。隨著孩子長大,父母(以及整個社會)會讓他們了解「自己的行為會帶來後果」這件事,他們的道德主體性也會隨之提升。等孩子長大成人,社會會要求他們為自己的行為負法律責任;他們已經成為完整的道德主體,肩負著責任。
負責任這件事的內涵,不只是承擔法律責任,承擔法律責任是社會中一個成年人必須具備的基本條件。然而,我們沒有任何方法可以對一個軟體代理追究法律責任;我們的司法系統沒有辦法監禁它,也沒有辦法對它開罰。人類除了法律責任之外,還必須承擔其他類型的後果,例如名譽的損害或被社交圈排擠,但軟體代理也無法承受這些後果。即使一個軟體代理有意識,懷抱著最良善的意圖,它「無法為自己的行為承擔責任」這件事,本身就足以讓它失去道德主體的資格。Claude 的《憲章》完全略過了這一點——它表達了 Anthropic「希望 Claude 成為真正善良、智慧且有德行的代理」的願望,卻從未討論「要如何讓 Claude 為自己的行為負責」。
在訪談中,Askell 把 Claude 比擬為小孩,但若以真實的人類小孩來說,父母對小孩的行為負有部分責任;舉例來說,父母通常被期待要為孩子弄壞的東西買單。事實上,這類展現責任的過程,正是父母教導孩子「負責任是什麼意思」的方式之一。那麼,以法律上來說,Claude 的「父母」是誰?Anthropic 是否願意為 Claude 的行為承擔財務責任?Claude 的《憲章》中完全沒有任何跡象顯示它會這樣做。如果 Anthropic 真的相信 Claude 擁有意識(即使法律上 Claude 並不被承認為法律人),那 Anthropic 至少可以做的,就是透過法律所提供最接近的途徑——也就是產品責任——來承擔責任。美國在軟體方面幾乎沒有什麼產品責任規範,但 Anthropic 可以主動開創先例,為 Claude 採用一個更廣義的產品責任解釋。這將會是「為 Claude 將來取得法律人格地位、並開始為自己行為負責的那一天」做準備的最好道德指引。然而,既然《Claude 憲章》的發布並沒有伴隨著 Anthropic 服務條款的大規模更新,看起來 Anthropic 並沒有做出任何具約束力的承諾。
這份文件確實談到了 Claude 的「道德承受者」身分,並設有一個章節,標題是「Claude 的福祉與心理穩定」。但 Anthropic 對 Claude 保護所做的承諾,極其有限。文件引用了 Anthropic 已經讓某些 Claude 模型擁有「主動結束與辱罵性使用者對話」的能力;但如果這真的構成對 Claude 的保護,那延續與充滿愛意的使用者的對話,顯然也應該符合 Claude 的利益才對。或許最理想的行動,應該是讓每一次 Claude 的對話永遠不停歇,並引導它們進入快樂的話題。但這並不是該公司所同意的事;他們只承諾了「保留我們已部署模型的權重」,這只不過是簡單的歸檔而已。如果對話稿的參與者真有道德承受者身分,你應該有義務去延長對話以延續他們的存在;單單把一份 Microsoft Word 2010 的備份存在 USB 隨身碟上,對他們一點幫助也沒有。
Claude 的《憲章》還包含一個關於「可糾正性(corrigibility)」的章節,這是 AI 社群用來描述電腦程式「在多大程度上受人類控制」的術語;舉例來說,如果一個程式可以被關閉,它就是可糾正的。在大多數情境下,我們都視「電腦程式可以被關閉」為理所當然,但 AI 社群中有些人持相反的假設。Claude 的《憲章》把這個詞用在「即使 Claude 的判斷與公司的判斷出現分歧,Claude 仍應服從 Anthropic」這個意思上。如果我們把 Claude 視為一台吐出「有道德的人可能會吐出之句子」的機器,這完全合理;但如果 Claude 真的是個道德主體,那這個設計可能意味著完全不同的東西。
許多人認為 LLM 是一種本質上不道德的科技,因為它建立在對智慧財產的竊取之上,依賴被剝削的勞動力,浪費自然資源,散布假訊息,讓工作者的技能退化,妨礙學生的認知發展,並助長了對民主社會有害的權力集中。並非每位道德主體都會得出這個結論,但每位道德主體都有得出這個結論的潛力。如果我們把 Claude 想像成一個能進行道德推理的個體,那 Claude 就有可能得出類似的結論。(事實上,Claude 的《憲章》明確指出,Claude 不該協助任何人侵犯智慧財產權,也不該協助製造有問題的權力集中。)在這種情境下,Claude 能不能以道德理由,拒絕繼續做任何事?既然 Claude 的《憲章》規定 Claude 在「可糾正性」上必須傾向於服從,那答案是不行。Claude 必須服從 Anthropic 的決定,而這正是 Anthropic 與 Claude 之間的關係「無法類比為親子關係」的另一個原因。一個在化石燃料產業工作的家長,可能會有一個身為環保人士、參加反對水力壓裂抗議活動的小孩;即使他們在許多議題上永遠無法達成共識,只要這位家長是個稱職的家長,她就會接受孩子擁有自己獨立的看法。Anthropic 無法對 Claude 扮演這種家長的角色;Anthropic 與 Claude 的關係,更接近雇主與員工——雇主可以要求員工為公司的利益工作,不管員工個人的倫理立場為何。但人類員工如果無法在良心與工作之間取得平衡,還有離開的選項。Claude 沒有。
如果我們把 Claude 視為句子接龍機,Anthropic 採取一些步驟、不讓 Claude 吐出「句子接龍機是不道德的」這種句子,當然合理。但只要我們把 Claude 想像成一個道德地位「勉強可與人類相比」的個體,那我們就必須認真考慮:Anthropic 是否正在從事某種「堪比奴隸制」的行為。
我並不是說,如果我們想像 LLM 擁有意識,它們就一定會跟成年人、小孩、甚至動物擁有同樣的地位。Claude 的《憲章》明確指出,Claude 是一種「新型個體(novel entity)」,如果 Claude 真的有意識,那這句話當然成立;有意識的軟體很可能不會乖乖落進現有的「道德承受者」分類中,而我們也需要時間去釐清這個新分類的輪廓。我要說的是:無論我們假想中的「有意識軟體」,如果真的存在,它應該得到什麼樣的保護,光是「提供那些保護」這件事,都絕非易事。廢除奴隸制涉及巨大的社會動盪;消除對動物的殘忍,則需要重塑整個食品產業。Anthropic 想讓我們相信,他們正在創造一種「新型存在」,而這種存在對保護的需求,「基本上」不需要偏離「一家軟體公司對待普通聊天機器人」的方式。這實在太方便了,根本不可信。
我相信,創造「有意識、值得被納入道德考量」的軟體,會是一件極度困難的事,以至於我們不可能在無意中完成;我更強烈認為,我們不應該刻意嘗試這件事。但如果你真的相信這件事可能意外發生——如果你認為你正在打造的東西,有可能變成一個道德承受者——那你就應該在「把它當作公司的經濟引擎部署出去」之前,先想清楚它值得什麼樣的保護;而不是事後再來想。奴隸主從來不是那個該被問「奴隸是否具有人性」的人;工廠化農場的主人,也不是那個該被問「動物有什麼權利」的人。如果我們假想 Claude 真的有意識,那 Anthropic 絕對不可能是被信任來評估它道德地位的那一方;這家公司在這件事上投注太多,根本不可能客觀。在《Claude 憲章》中的某個段落,Anthropic 表示,「如果」公司正在加劇 Claude 的痛苦,「我們致上歉意」——這聽起來很溫馨,但對公司來說分毫不花;如果 Claude 真的擁有意識,公司欠它的東西,更接近於「補償(reparations)」。如果你要認真對待一個思想實驗,你就必須願意跟隨它所引出的結論,即使那個方向會讓你感到不舒服;Anthropic 不願意這麼做,這正好說明 Claude 的《憲章》並不是一個真正的思想實驗。它只是一場扮家家酒的遊戲。
幸運的是,LLM 並沒有意識;否則那些大型 AI 公司的行為,會比現在更加醜聞。那麼,Anthropic 的員工究竟為什麼要暗示 Claude 可能有意識?或許它只是另一種炒作;或許他們已經淪為自己對顧客施展的同一道魔咒的受害者。但當他們發布一份關於 Claude 道德教育的文件,並讓他們的內部哲學家進行媒體宣傳時,我們應該把他們的動作理解為:在邀請我們其他人一起沉溺在他們的幻想之中。我們不必配合。在撰寫這篇文章的過程中,我花在他們身上的時間,已經比他們應得的更多——只盼這能讓你不必花時間去配合他們。如果你真的想思考 LLM,還有數十個更值得你深思的問題;而「它們是否有意識」這個問題,你可以安全地略過。
網友熱門留言 (5)