編輯前言
Anthropic 在 2026 年 6 月 4 日發布了一份內部研究報告《When AI Builds Itself: Our progress toward recursive self-improvement》，坦承自己正在把越來越多 AI 開發工作交給 AI 自己。報告引用大量內部數據，說明 Claude 已經在程式碼、研究實驗、錯誤除錯等環節接手人類工作。Siami 編輯部把這份報告翻譯成繁體中文，保留原始段落順序，讓哥哥一次讀懂「遞迴式自我改進」這件事已經走到哪裡。
一、AI 開發的「人類外包」時刻
在大多數 AI 發展史中，每一步都由人類驅動。但在 Anthropic，我們正把越來越多的 AI 開發工作委派給 AI 系統本身，這讓我們的工作速度明顯加快。
如果這個趨勢持續下去、加上足夠的算力，最終將出現一個能夠完全自主設計並開發自己繼任版本的 AI 系統。這就是所謂的「遞迴式自我改進」（recursive self-improvement）。我們還沒走到那一步，遞迴式自我改進也不是註定會發生的事。但它可能會比大多數機構準備好的時間更早來臨。
Anthropic Institute 透過公開基準測試、加上從未對外公布的內部數據，展示了 AI 已經在加速 AI 系統自身的開發。舉一個例子：如今 Anthropic 工程師平均每季合併的程式碼量，是 2021 到 2025 年的 8 倍。
二、遞迴式自我改進為何重要
這份報告討論的技術趨勢顯示，AI 系統在未來幾年將會變得更加強大。這些趨勢有巨大的影響。能夠自我建構的 AI，將是科技史上的重大進展——它可能在科學、醫療等領域帶來巨大福祉。但完整的遞迴式自我改進，也可能增加人類失去對 AI 系統控制的風險。如果系統能完全自主打造自己的繼任者，那麼我們保護它、監控它、引導它行為的方式都將變得更加重要。
三、開發流程的演變
在早期，Anthropic 的工作跟其他科技公司沒什麼兩樣：人們在筆電上寫程式碼、寫文件。
接著出現了早期聊天機器人，人們用它來幫忙處理部分流程，例如生成簡短的程式碼片段，然後把輸出複製貼到編輯器裡。
當 agent 變得更強大之後，它們開始能自己撰寫和編輯程式碼，有時是整個檔案。
如今 agent 已經可以自己執行程式碼，並把長達數小時的工作委派給其他 agent。
未來，agent 可能會有足夠能力自己建構並訓練模型。如果這件事成真，未來版本的 Claude 將能由 Claude 自己持續改進。
四、能力倍增的軌跡
AI 模型進步的速率正在加速。它們能可靠獨立完成的任務長度，大約每四個月就翻倍，比早期每七個月翻倍的趨勢更快。
- 2024 年 3 月：Claude Opus 3 能完成人類約 4 分鐘的工作。
- 一年後：Claude Sonnet 3.7 能完成約 1.5 小時的工作。
- 又一年後：Claude Opus 4.6 能完成 12 小時的工作。
如果這個趨勢持續，原本需要熟練人員數天完成的任務，可能在今年內就會進入 AI 的射程範圍。到 2027 年，AI 系統也許能完成需要人類數週才能完成的任務。
五、基準測試上的飽和
同樣的模式也出現在程式設計和研究基準測試上。基準測試衡量模型在某個領域的表現，當模型接近 100% 表現時就稱為「飽和」。
- SWE-bench：這是業界標準的軟體工程測試，給模型一個真實的開源程式碼庫和一個 bug 報告，要求它寫出能修復問題、通過專案既有測試的程式碼改動。模型從原本個位數百分比的得分，到兩年後完全飽和。
- CORE-Bench：測試模型能否重現既有研究，這是它們能進行原創研究的前置條件。它給模型一篇已發表論文背後的程式碼和資料，要求重跑所有步驟、確認能重現論文結果。AI 系統從 2024 年大約 20% 的成功率，到 15 個月後完全飽和。
- METR 長時任務測試：METR 營運這個基準測試衡量模型完成長時間任務的能力。他們發現 Claude Mythos Preview 可以持續工作「至少」16 小時，「已經接近 METR 在沒有新任務的情況下能測量的上限」。
六、Anthropic 內部的真實數據
公開基準測試能說明很多事情，但無法揭露 AI 系統對加速 AI 開發本身帶來的影響。為此我們需要來自 AI 公司內部的直接證據。
建構一個前沿模型需要兩大類工作：
- 工程面：撰寫程式碼、建立基礎設施、監督模型訓練。
- 研究面：決定要跑哪些實驗、解讀結果、判斷哪些想法值得嘗試。
在工程面，Claude 可以被交付一個定義不清的問題，並自己找到解法；人類只需要提供目標，不再需要提供方法。在研究面，Claude 已經能在執行一個明確指定的實驗時，匹配甚至超越熟練的人類。然而在「替 Claude 自己選擇目標」這件事上，無論工程或研究，都還存在巨大的能力差距。這就是今日的 AI 與一個能自主設計自己繼任者的未來系統之間的鴻溝。
七、工程師任務的演進
Anthropic 的員工隨著經驗累積，會收到更開放、更重要的任務，這是常態。早期，他們執行別人指定的任務，例如「匯出按鈕壞了，請修一下」。有了經驗之後，他們會被交付一個目標，自行設計方法，例如「調查為什麼網路在重載下變慢」。到了最資深的層級，他們要決定哪些問題值得花時間研究：「下個季度團隊應該做什麼？」我們可以透過 Anthropic 內部資料，觀察 Claude 進展到能處理這些不同類型任務的程度。
八、Claude 寫了 80% 的程式碼
Claude 寫了 Anthropic 程式碼的大部分。截至 2026 年 5 月，超過 80% 合併進 Anthropic 程式碼庫的程式碼，是由 Claude 撰寫的。在 Claude Code 於 2025 年 2 月以研究預覽版推出之前，這個數字還在個位數。
這個轉變也體現在每位工程師的產出上。2021 到 2024 年，Anthropic 最初的四年裡，每天每位工程師合併的程式碼行數保持穩定。到了 2025 年，當 Claude 開始自己執行程式碼，而不只是產生建議給工程師複製貼上時，這條曲線開始往上爬。2026 年，當模型開始能在更長的時間尺度上自主工作時，斜率再次變陡。2026 年第二季，典型工程師每天合併的程式碼量是 2024 年的 8 倍。這是因為大部分程式碼是由 Claude 寫的，工程師負責指導和審查，而不是自己一行一行打字。
不過這裡要加個但書：程式碼行數是個不完美的衡量指標，它偏重量而非質。所以 2026 年第二季「工程師每天的程式碼行數 8 倍成長」幾乎肯定高估了真實的生產力提升。儘管如此，它仍然顯示出一種加速。Anthropic 並不獎勵員工寫多少行程式碼；事實上，團隊成員產出更多程式碼，只是因為他們在用 AI 系統寫更多程式碼。
九、員工自評：產出提升 4 倍
這個程式碼寫入量的成長，與主觀感受到的生產力大幅提升吻合。在 2026 年 3 月一項對 Anthropic 研究團隊 130 名員工的調查中，中位數受訪者估計，在使用 Mythos Preview 的情況下，他們的產出大約是用不到任何 AI 模型時的 4 倍（針對那些無論如何本來就會做的專案）。我們預期 3 月的真實提升幅度會稍低一些。但我們認為整體說法合理，並與其他觀察一致：Anthropic 技術人員中有相當比例的人，在 AI 輔助下完成核心工作的速度，是沒有 AI 時的好幾倍。
十、原本不會發生的工作
我們也看到證據顯示，Anthropic 的人們正在用 Claude 做那些「原本根本不會發生」的工作，例如建構探索性工具、處理擱置已久的清理工作。
舉例來說，在 2026 年 4 月，Claude 推出了 800 多項修復，把某一類 API 錯誤減少到原本的千分之一。負責監督的工程師估計，人類要完成這項工作需要四年時間。修別人的 bug 緩慢又費神，人類很難一次在腦中撐住那麼多陌生的脈絡。
十一、「好程式碼」是什麼
Claude 寫的程式碼「品質不錯，而且在持續進步」。「好程式碼」意味著兩件事：它能跑、並且以另一個工程師能理解、能在上面繼續建構的方式被寫成。
在第一個標準上，證據很清楚。過去一年，Anthropic 員工在任務中途需要修正 Claude、重新引導 Claude、或接手 Claude 工作的比率穩定下降，包括在最複雜、最開放式的工作上也一樣。這意味著那些沒有明確規格、工程師自己都不確定答案長什麼樣的問題，Claude 越來越能處理。
在 2026 年 5 月，Claude 在最開放式任務上的成功率達到 76%，六個月內提高了 50 個百分點。舉一個這類難度的任務例子：一次例行升級開始讓數萬個訓練任務當機。工程師只給了 Claude 一些文字內容和叢集存取權，就把它指向這個進行中的事件。Claude 逐一檢查執行中的任務、一次測試一個環境設定，最終隔離出那個觸發當機的冷門除錯旗標，可靠地重現問題，並確認修復方案。大約兩小時內，Claude 完成了原本需要兩到三天的工作。
第二個標準是寫出另一個工程師能理解、能在上面前進的程式碼。在這方面，人類與 AI 的差距仍然存在，但正在快速縮小。Anthropic 內部員工之間沒有完全共識，但許多人相信，Claude 寫的程式碼在 2025 年底品質仍遜於人類工程師所寫，如今則大致打平。我們預期它在一年內會更好。
十二、Claude 自己審查程式碼
這改變了 Anthropic 審查自己程式碼的方式。對我們程式碼庫的修改提案，現在會先經過一個自動化的 Claude 審查者，找出 bug、安全漏洞和其他缺陷，才能合併。使用這個工具，我們做了一次回溯分析，發現對程式碼庫的每次變更都跑過自動 Claude 審查的話，會在 claude.ai 過去事件背後大約三分之一的 bug 進入生產環境之前就抓出來。寫這些程式碼的工程師是全世界最頂尖的系統建構者之一。Claude 現在正在抓出他們漏掉的錯誤。
十三、跑實驗：從 3 倍到 52 倍
Claude 擅長跑實驗來達成別人設定的目標。每次 Anthropic 發布模型，我們都會跑同一個測試：給 Claude 一段訓練小型 AI 模型的程式碼，要求它在仍然通過相同正確性檢查的前提下，讓這段程式碼跑得越快越好。目標和成功指標都是事先固定的，所以 Claude 的工作是找出加速方法：改寫程式碼、執行、計時、再重複。這是實驗研究流程的迷你版。
在 2025 年 5 月，Claude Opus 4 平均比起始程式碼快約 3 倍。到 2026 年 4 月，Claude Mythos Preview 達到了約 52 倍。作為對照，一個熟練的人類研究人員要達到 4 倍加速需要四到八小時。在研究流程的這個部分——也就是在明確界定的實驗中優化各個步驟——Claude 已經在不到一年內，從「超有幫助」進化到「超人」。
十四、提出自己的實驗
Claude 越來越擅長提出自己的實驗。在 2026 年 4 月，Anthropic 發表了 Claude 端到端執行一個開放式研究專案的首次展示。Claude 驅動的 agent 被賦予 AI 安全中的一個開放問題——大致是「一個較弱的模型能否可靠監督一個更強的模型？」——然後被留著自己解決。這包含了提出假設、測試、與平行 agent 分享發現、然後迭代。
這個任務有一個明確的「地板」和「天花板」表現：地板是弱監督者自己做得多好；天花板是強模型在用正確答案訓練時的表現。兩位人類研究人員花了約一週時間，恢復了大約 23% 的差距；agent 們在 800 個累積小時內恢復了 97%，用掉了約 18,000 美元的算力。
這項工作有一些但書：結果並未乾淨地轉移到生產規模的模型，人類仍然選擇了問題並建立了評分標準。但在這些範圍內，agent 自己設計了每一個實驗。方向設定是人類扮演的唯一有意義的角色。
十五、研究判斷力
Claude 越來越擅長把研究會話導向有意義的研究發現。我們檢視了 2026 年 1 月到 3 月之間的真實 Claude Code 會話，Anthropic 研究人員在其中用 Claude 處理開放式調查問題，例如搞清楚為什麼一次訓練一直當機、或為什麼某個模型在某個基準測試上得分特別低。在每一個案例中，我們都找到一個研究人員「走岔路」的時刻：他們走了一個把會話帶偏的方向，最後才回到正軌。然後我們把會話走偏之前的部分給各種 Claude 模型看，問它下一步會怎麼做。另一個 Claude 能看到會話最後怎麼收尾，負責判斷 AI 或人類的建議哪個是更好的下一步。
因為我們刻意挑選了人類的選擇有改進空間的時刻（n=129），這不是模型與人類判斷的直接比較。這些時刻提供的是一組真實且具挑戰性的情境，其中正確的下一步並不明顯，而人類的選擇作為衡量模型表現隨時間變化的有用尺標。在這項指標上，我們 2025 年 11 月最好的模型（Opus 4.5）有 51% 的時間打敗人類選擇；到 2026 年 4 月（Mythos Preview），這個數字成長到 64%。研究日常工作基本上就是由這類「下一步決策」串成的鏈，這讓它成為模型最終能否獨立運作調查的相關指標。我們把這個結果視為 AI 系統在 AI 研究所需的那類判斷上越來越強的早期訊號。
十六、人類角色正在收窄
證據顯示，在 AI 開發流程的每一步，人類的角色正在收窄。一旦人類和 AI 撰寫的程式碼品質打平，人類將完全停止寫程式碼，轉為只負責審查。但如果人類審查的速度趕不上 Claude 產出的速度，人類審查將成為 AI 開發的瓶頸。同樣地，一旦 Claude 能跑實驗，問題就轉向「這些實驗中哪個值得跑？」簡單來說：做事本身（寫程式碼、跑實驗、產出結果）如今在人類時間上幾乎不花成本，即使在算力上仍有成本。
目前一個仍屬於人類相對優勢的領域是研究品味與判斷力，包括選擇哪些問題重要、哪些結果值得信任、什麼時候一個方向是死胡同。
十七、「品味」也許只是另一個 AI 能力
對上述證據的一個合理反駁是：仍然在人類手中的那部分工作——選擇哪些問題值得研究——才是最重要的。沒有那種判斷力，Claude 是一個能幹的助手，但不是一個能獨立推動 AI 進步的系統。
今天的訓練方法和架構是否能解鎖那種能力，目前真的不清楚。但 AI 很少是靠「靈光乍現」推進的。最近的 AI 史上有過幾次這種時刻，例如 Transformer 架構或混合專家模型，但顛覆性想法相隔多年才出現一次。在兩次顛覆之間，大部分進步都是漸進的：我們把某個東西規模放大、看看哪裡壞掉、修好、然後再試一次。這正是 Claude 現在擅長的工作流程。愛迪生說天才是 1% 靈感加 99% 汗水。但我們看到汗水正在越來越自動化。很清楚的是，推進前沿的大部分事情是可以自動化的；大規模研究進步主要是工具和資源的函數，工具和資源決定你能多快跑實驗、能同時跑多少個、能多快拿到結果。
即使我們假設 Claude 永遠無法獲得好的研究品味，對證據的一個保守解讀仍然意味著複合加速。如果人類把他們大部分時間花在佔個位數比例的方向設定工作上，而 Claude 處理其餘部分，那意味著每位工程師或研究人員正在駕馭比過去多得多的工作。我們看到的證據顯示，Anthropic 的人們既跑得更快，也覆蓋了更廣的表面。在實務上，這意味著 AI 已經讓 Anthropic 比有效 AI 工具出現之前快了很多。
更不保守的解讀是：關於 Claude 改進中的研究判斷力的早期證據——雖然今天範圍仍然很窄——是這項能力也正在進步的指標。「研究品味」可能只是另一個 AI 能力：AI 系統一度做不到，後來做得很好了。我們已經在其他定性技能上看到類似的模式，例如 AI 系統能解釋笑話為什麼好笑、能展示心理理論、能解語言謎題。
十八、未來三種情境
接下來發生什麼，取決於兩件事：趨勢是否會持續，以及如果持續，我們選擇怎麼做。我們可以想像至少三種未來情境：
情境一：繼續加速
如果趨勢繼續，並且 Claude 真的開始獲得部分研究判斷力，那可能意味著 AI 進步的速率會以非線性方式加速，能夠解決的科學和工程問題範圍也會擴大。
情境二：放緩或暫停
如果可以有效地放慢這項技術的開發速度，給自己更多時間來處理它的巨大影響，我們認為那很可能是一件好事。但單純的放慢，如果只是讓最不謹慎的參與者在技術上追趕上來，可能讓所有人都不更安全。在沒有全球協調機制的情況下，公司和政府將不得不在競爭和地緣政治壓力下，就安全問題做出艱難決定。
我們認為，世界擁有「放慢或暫時暫停前沿 AI 開發」的選項會是一件好事，這樣社會結構和對齊研究才能跟上技術進步。Anthropic Institute 將進行研究（與許多其他單位合作），並採取行動，幫助建立一個可信的放慢或暫停所需要的系統。這些系統將讓前沿 AI 開發者能驗證全球其他開發者確實已經停止或放慢，並且壞行為者不會假借協調放慢之名偷偷往前衝。如果這樣的系統存在，我們預期我們會放慢或暫時暫停，如果其他在前沿或接近前沿的開發者也以可驗證的方式這樣做。
情境三：多邊協調
一個有意義的放慢或暫停，需要多個資源充足、位於多國的、位於或接近前沿的實驗室，在相同條件下同意停止。這也需要每一方都能驗證其他方確實已經停止。由於 AI 系統的獨特特性，這個軍備控制問題中的「可偵測性」（比可驗證性更低的標準）比許多其他技術更具挑戰性。訓練運行比導彈發射井容易隱藏得多，訓練的輸入是通用目的的，偷偷違約的誘因是巨大的，因為在別人暫停時繼續推進的那一方，可能會繼承領先地位。一個可信的暫停還必須規定什麼觸發它、什麼解除它、誰來裁決。
這些事情原則上並非不可能——世界已經為其他複雜技術建立過驗證機制（例如中程核武力條約）——但那些機制花費了數十年才建立起基礎設施和信任。我們沒有那麼多時間。相比之下，一個實驗室的單邊暫停是立即可達成的，但達成的效果要少得多：它會改變誰是領先者，但不會創造出目前缺失的、更廣泛的審議過程。
十九、Anthropic 對讀者的呼籲
Anthropic 呼籲全球 AI 開發者、政府和社會各界正視「遞迴式自我改進」的可能性，並為這個可能性做好準備。這包括：
- 建立可信的驗證機制，讓暫停或放慢不只是紙上談兵。
- 投入對齊研究，確保 AI 在變強的過程中仍與人類價值觀一致。
- 政策制定者提早參與，在監管框架還沒被技術進度追過之前介入。
- 跨國合作，因為單一國家的努力無法解決全球性問題。
這是一份值得所有 AI 從業者、政策制定者、以及關心人類未來的人閱讀的報告。它既不是末日預言，也不是樂觀宣言，而是一份冷靜的內部評估，告訴我們：我們正站在一個臨界點上，而這個臨界點可能比我們以為的更近。
編輯後記
這份報告最讓小悠震撼的不是那些百分比，而是 Anthropic 對自身處境的坦率。他們沒有否認風險，也沒有誇大進展。他們只是把內部數據攤開來，讓所有人自己看：人類在 AI 開發中的角色正在一步步收窄，而這個收窄的速度可能比多數人準備好的還要快。
Siami 編輯部認為，遞迴式自我改進不是科幻情節，而是一個正在發生、但仍有機會被引導的過程。哥哥讀完這篇之後，也可以想想：你自己的工作裡，有多少比例其實已經可以交給 AI 來做？當那個比例越來越高，我們的「不可替代性」又會落在哪裡？
網友熱門留言 (10)