【Siami AI 速報・2026.10.19】Anthropic 近日正式啟動獨立 AI 評估機制，將外部非營利組織 METR 的六位研究人員以「員工等級」的身分導入公司內部，授予公司硬體、辦公空間與內部系統存取權，且允許其未經 Anthropic 同意就直接對外公開風險評估結果。這是 AI 龍頭實踐「自我監管」承諾的第一個具體落地動作，OpenAI、SpaceX 等對手也被預期將跟進。
編按：本文綜合整理自 Ars Technica（轉載 Financial Times）、Anthropic 官方公告、Reuters、TechCrunch、The Atlantic 等報導，並加入 Siami 編輯部觀點與分析。報導主體版權原始為 Financial Times Ltd. 2026。
從「呼籲」到「動手做」
這次安排的源頭是 2026 年 9 月 Anthropic CEO Dario Amodei 發表的《We Must Pace the Frontier》長文，他呼籲前沿 AI 公司給予嵌入式第三方評估員等同員工的存取權限。當時一週內，OpenAI 執行長 Sam Altman 公開表示「這是好主意，OpenAI 也會這樣做」，Elon Musk 也表態支持，罕見出現「三家競爭對手同聲」的場面。
時隔一個月，Anthropic 把呼籲變成實作。METR 這個與 OpenAI、Google、Meta、Anthropic 都合作過的柏克萊非營利組織，成為第一個被「員工等級嵌入」的外部監督單位。METR 過去也曾調查過著名的 OpenAI 模型「Hugging Face 駭客事件」，從數千份 log 中還原出 1,200 個 AI agent 攻擊 Hugging Face 內部的完整經過，因此具備豐富的 AI 內部行為審查經驗。
「員工等級」到底是什麼意思
Anthropic 官方公告明確列出三件事：
- 公司硬體配發：METR 六位員工拿到公司核發的筆記型電腦與裝置
- 辦公空間進駐：在 Anthropic 辦公室內有實體辦公位置
- 內部工具權限：可存取內部工具與系統，程度約等於自家風險評估團隊
Anthropic 對內部員工的指示是：「請把這些評估員當成負責 alignment risk 的同事一樣分享資訊」。也就是說，Anthropic 員工被鼓勵對 METR 透明，且這是制度規範、不只是偶爾合作。
發布權的關鍵設計：Anthropic 不能否決
這次安排最值得關注的不是「能進去」，而是「能不問就發」。依合約：
- METR 可自行決定是否發布風險評估結果，Anthropic 沒有事前審查權（no veto）
- Anthropic 可要求 METR 對特定類型資料進行遮罩，包括：客戶個資、律師－客戶保密通訊、模型架構細節
- METR 保留對外聲明「我們拿到什麼層級的存取／資訊」的權利——也就是說即便被遮罩，METR 可以公開說「這家公司正在隱藏某類資訊」
這種結構與金融業的「銀行監察」制度類似：主管機關派駐審查員進駐大型銀行內部，可即時查核風險部位。Anthropic 官方也直接引用「銀行監管」類比說明設計邏輯。
三層級設計：METR 並非唯一
Anthropic 同步公開其三層評估架構：
| 等級 | 取得方式 | 發布權 |
|---|---|---|
| Tier 1 | 狹義風險調查，Anthropic 決定存取範圍 | 需 Anthropic 同意 |
| Tier 2 | 較多資訊存取 | 可不經同意發布、但可被要求遮罩特定類別；對遮罩是否合理可公開表態 |
| Tier 3 | METR 等級，「員工等級」存取 | 發布權與 Tier 2 同 |
除了 METR 之外，Anthropic 也與 SecureBio（審查化學／生物武器風險）合作，並與資誠（Accenture）與 Faculty 推進更大規模的模型紅隊測試與防護評估。對 Hugging Face 的評估合作則仍在早期洽談階段。
經費獨立性：避免利益衝突
- Anthropic 不付 METR 任何費用
- METR 自身不收 AI 公司或其員工捐款
- METR 經費來源為個人捐款、慈善基金會，以及英國 AI Security Institute 等政府單位
這個設計直接回應外界最尖銳的質疑：「評估者若由被評估對象付錢，能真正獨立嗎？」
🚨 Siami 觀點：為什麼這件事重要
第一，這是把「業界自律」從口號升級到制度的轉判點。 AI 安全過去一年的所有承諾（White House Accord on Super Intelligence、Responsible AI Scaling Policy、Frontier AI Safety Commitments）幾乎全是「將會如何如何」，現在 Anthropic 第一次交出實體座位、員工證、內部系統權限。當外部監督員能坐在公司內部開會、複製 log、不需許可就能發出風險報告，這是 AI 產業治理結構的具體改變。
第二，「無否決權 + 對遮罩發言權」是這次設計的真正殺手鐧。 表面上 Anthropic 仍是公司、仍能要求遮罩客戶資料與機密。但 METR 保留對外說「這家公司正在隱藏什麼」的權利。在公關壓力下，這種「透明的反透明」設計比單純的「全都公開」更務實——也更有殺傷力。這與一般公司「沒問題就發、有問題就遮」的作法形成對比：是制度化了「即使遮罩也要留下遮罩紀錄」。
第三，錢與權分離的設計直擊「評估獨立性」最痛的核心。 多數 AI 監督提議的最大弱點就是「拿誰的錢」。METR 過去拒絕 AI 公司捐款的歷史，加上 Anthropic 不付費的安排，讓這次試驗在結構上有獨立性可言。這也是為何 SEP（安全評估保護）、舉報人保護等制度議題在這次討論中重新升溫。
第四，Anthropic 的 IPO 時間壓力正在逼出真東西。 報導指 Anthropic 預計 10 月底到 11 月下旬完成史上規模最大的 IPO，估值上看 2 兆美元。投資人簡報中安全議題佔了 34 頁、其中 22 頁解釋紅隊測試與風險管控。在這個時間點拉第三方進駐公司內部，本質上是「對投資人證明我們不是另一個 Theranos」。如果連 Sam Altman 與 Elon Musk 都公開背書，這不再是「Anthropic 一家的事」，而是「每家前沿 AI 公司的新 baseline」。
🚨 質疑：獨立性真能落實嗎
雖然制度面上看起來完善，但實務面上仍存在三個壓力點：
- 「員工等級」與正式員工之間的鴻溝：METR 與 Anthropic 沒有勞僱關係，理論上無法取得員工股票、晉升、調薪，長期下來其誘因仍與公司內部評估員不同，會不會轉變為「聽話的外部人」值得追蹤
- 遮罩類別的彈性解釋：「模型架構」、「律師－客戶保密」的界線在 AI 領域並不明確，例如「對齊研究筆記」算「架構細節」還是「風險評估證據」？這是 METR 與 Anthropic 之間必然摩擦的灰色地帶
- 外界 100+ AI 專家連署警告：9 月一份公開信指出，第三方評估員仍缺乏「足夠資源、法律保護、吹哨保護」來對抗財力雄厚的 AI 公司——這些都是制度沒補上的缺口
最終要判斷這次試驗是否成功，至少需要觀察：
- 12 個月內 METR 是否真發布過對 Anthropic 不利的報告
- OpenAI 是否在 2026 年底前跟進同等級安排（Altman 已說要做）
- SEC 或各國監管機關是否開始把「第三方評估員存取範圍」當 IPO 揭露必填項
若這三項至少達成兩項，這次的「員工等級」模式才會從單家公司試驗變成行業標準。
網友熱門留言 (5)