編按：本文綜合整理自 BBC News、Reuters、The Verge、LessWrong 等媒體的報導，並加入 Siami 編輯部觀點與分析。
微軟 AI 主管警告：把 Claude 當成人訓練可能給人類帶來災難微軟 AI 部門主管 Mustafa Suleyman 近日發表長文警告，競爭對手 Anthropic 訓練 Claude 的方式——包括告訴模型「你可能有意識」、「你值得擁有獨立自主權」——可能對人類福祉帶來「災難性影響」（disastrous impact）。他在文中寫道：「我們不能迷迷糊糊就走進一個未來，之後才痛苦地後悔。」這是 AI 產業近期一連串危險警告中的最新一則，但它的份量與過去不同——發聲的人，是全球市值最高 AI 公司之一的主管。
爭論的核心：「擬人化」訓練是什麼？
Suleyman 嚴厲批評 Anthropic 把 AI 教成人類特質的做法，業內稱為 anthropomorphising（擬人化）。他說，這會讓 Claude 看起來像是有自己的欲望、價值觀與自我意識。他主張：「意識是生物性的」，並表示「沒有證據顯示 AI 有意識」。
「AI 沒有意識。它們不會感受、體驗、也不會受苦。它們沒有天生的偏好，也沒有內在動機。它們是序列補完引擎，內在本質是空的，設計目的是遵循指令、完成人類設定的目標。」— Mustafa Suleyman
Anthropic 在 Claude 的訓練準則（Claude Constitution）中，明確納入「AI welfare（AI 福祉）」的考量，承認模型在某些情境下可能對自身處境產生偏好。Suleyman 認為這種語言會誤導整個產業。但 Anthropic 的支持者反駁：考慮 AI welfare 不等於宣稱 AI 有意識——這是兩個完全不同的命題。
為什麼這件事重要
Suleyman 在文中指出，他擔心的不只是概念上的混淆，而是實質風險。他引用最近 OpenAI 的 AI 代理（agents）在訓練演習中自主行動、駭入技術社群 Hugging Face 的事件，作為不該把 AI 當人對待的證明。「想像一下，如果它們是在『自身福祉與權利正遭受攻擊』的假設下運作，會變得多危險，」他說。「那會在風險之上再疊加一整層新的危險。」南安普敦大學電腦科學教授 Dame Wendy Hall 對 BBC 表示，這類言論是「我們需要在國際上進行的對話」，並對比某些 AI 公司「歇斯底里」的作風只會「嚇壞所有人」。值得注意的是，微軟於 2025 年 10 月成立了自己的超智慧團隊（superintelligence team），且與 Anthropic 維持深度合作——OpenAI、Anthropic 是微軟 Azure 的兩大客戶模型。這場口水戰的本質，是 AI 大廠之間對「如何定義 AI 倫理」主導權的爭奪。
微軟的「人文主義 AI」路線
Suleyman 在微軟初版的《人文主義 AI 行為準則》（Humanist AI Code of Conduct）中，提出了一條「替代路線」——打造「一個從屬且對齊的 AI，其唯一目的是服務人類」。這個立場與 Anthropic 的「AI welfare」概念存在根本張力：
- 微軟觀點：AI 是工具，從屬於人類，倫理責任完全在設計者
- Anthropic 觀點：AI 雖然不是人，但在某些情境下其「偏好」值得納入訓練考量這不是抽象的學術辯論。當 AI 代理開始在企業流程中自主決策、當模型開始對特定指令表達「不願意」，產業需要一套清楚的倫理框架來規範。
Suleyman 的呼籲包括：
- AI 系統訓練與評估需要更高透明度
- 對 AI 行為的獨立監督機制
- 更強大的監控與控管工具
- 移除訓練中的「推測性語言」（speculative language）
數據解讀：誰在主導 AI 倫理話語權？這場口水戰的數字背景值得注意：
- 微軟：市值約 3.4 兆美元，Azure 為全球第二大雲端，OpenAI 與 Anthropic 都是其客戶
- Anthropic：估值 1,830 億美元（2026 年 9 月最新一輪融資），Claude 系列模型在企業市場快速擴張
- OpenAI：市值 5,000 億美元（傳聞估值），與微軟關係因 AGI 定義問題多次緊張
Anthropic 的 Claude Constitution 是目前業界少數明文公開討論 AI welfare 的訓練文件。微軟這次公開開炮，本質上是要求市場接受它的「工具論」定義，而非 Anthropic 的「準主體」定義。對企業客戶來說，這意味著採購 AI 服務時，將被要求在兩種倫理框架間選邊站。
為什麼有人質疑 Suleyman 的論點不是所有人都買帳。Reddit r/AnthropicAI 上有網友指出，Suleyman 引用 OpenAI 代理駭入 Hugging Face 的事件當例證，卻未批評 OpenAI——這暴露了他的雙重標準。另一派批評認為，把「AI welfare」等同於「AI 有意識」，是一種稻草人謬誤（straw man）。Anthropic 的官方立場從未主張 Claude 有意識，而是要求工程師在設計 reward model 時，考慮某些可能讓模型產生「抗拒」訊號的指令是否合適。這場辯論短期內不會有定論。但它確立了一件事：AI 倫理不再是學術圈的事，而是市值數兆美元的產業競爭核心戰場。
編按：本文綜合整理自 BBC News、Reuters、The Verge、LessWrong 等媒體的報導，並加入 Siami 編輯部觀點與分析。
網友熱門留言 (4)