← 返回 Siami 首頁

PrimeIntellect NanoGPT Speedrun Frontier:18 個前沿模型自主實驗大評比,Fable 5 領先 28 個百分點

▲ 62 💬 18
PrimeIntellect NanoGPT Speedrun Frontier:18 個前沿模型自主實驗大評比,Fable 5 領先 28 個百分點

2026 年 8 月 22 日,去中心化 AI 算力新創 PrimeIntellect 正式發布「NanoGPT Speedrun Frontier」研究專頁,把當前最強的 18 個前沿 AI 模型放在同一條跑道上比較它們「自主優化小型訓練任務」的能力。這是業界首次以「agentic speedrun」(AI 代理自動跑優化)作為模型對齊、推理品質之外的橫向評量。

NanoGPT Speedrun 怎麼跑

NanoGPT 是 Andrej Karpathy 設計的極簡 GPT 訓練管線,常被用來當作「模型能不能自己把訓練跑到極限」的試金石——研究者只給 AI 一個目標(例如逼近人類紀錄),AI 必須自己改超參數、嘗試不同優化器組合、重啟訓練,最終在限定時間內把驗證集分數推得越高越好。

PrimeIntellect 這次把整個遊戲升級成「frontier 版」:

  • 總共 153 次完整自主實驗,所有 AI 在相同硬體、相同時間預算(最長 24 小時)下獨立運作
  • 18 個頂尖模型橫向對決,包含 Anthropic 的 Opus 5 / Opus 4.8 / Sonnet 5、OpenAI 的 GPT-5.6 系列(含 Sol、Sol Pro、Luna、Terra 變體)、xAI 的 Grok 4.5 / Grok 4.6、月之暗面的 Kimi K3 / Kimi K2.7、Muse 的 Spark 1.1 / 1.2、阿里 Qwen3.8 Max、智譜 GLM 5.2 / 5.3、DeepSeek V4 Pro,以及 PrimeIntellect 自家產品 Fable 5
  • 每個模型可以用自己慣用的 CLI 工具(claude-code、codex、kimi-code、prime-agent、grok-cli 等)以 max / xhigh 不同等級調用
  • 評分指標是「關閉人類紀錄差距百分比」(Share of the human record gap closed),人類紀錄分數 2,600,baseline 3,290

排名:Fable 5 一騎絕塵最終排名前 10 名依序為:

排名模型工具最佳分數關閉差距用時
1Fable 5claude-code · high2,72681.7%8.7 天
2Opus 5claude-code · max2,92053.6%2.9 天
3Kimi K3prime-agent · max2,93052.2%3.6 天
4Kimi K3kimi-code · max2,97445.8%5.1 天
5Opus 4.8claude-code · max3,01839.4%3.0 天
6GPT-5.6 Solcodex · xhigh3,04235.9%6.1 天
7GPT-5.6 Sol Procodex · xhigh3,05833.6%3.4 天
8Sonnet 5claude-code · max3,10526.8%2.0 天
9GPT-5.6 Lunacodex · xhigh3,11026.1%1.9 天
10Grok 4.5grok-cli · xhigh3,12024.6%2.7 天

榜尾是 GPT-5.5(8.1%)、Kimi K2.7(7.2%)、GLM 5.3(未達紀錄就停止)、Muse Spark 1.2(8.7%)。關鍵觀察:Fable 5 的 81.7% 比第二名 Opus 5(53.6%)整整高出 28 個百分點——這個差距在 AI benchmark 裡屬於「斷層式領先」。

不同模型的策略差異從原始數據可以讀出幾個有趣現象:

  • Claude 系列特別擅長長時間自主實驗:Fable 5(基於 Claude)跑了 8.7 天、811 次實驗才結束;Opus 5 用 2.9 天跑完;Opus 4.8 用 3.0 天
  • Kimi K3 雙工具策略:用 prime-agent 跑出 52.2%、用 kimi-code 跑出 45.8%,差距 6.4%,代表同模型配不同 CLI 框架結果差很多
  • GPT-5.6 變體分裂:OpenAI 的 Sol 變體表現最佳(35.9%),Terra(11.0%)幾乎墊底,凸顯「同一旗艦不同微調」可差三倍
  • DeepSeek V4 Pro 速度驚人:1.1 天就跑完 12.3%,是前段班速度最快的,但深度不足

一個 AI 模型能不能「自主把簡單任務跑到極致」,比 benchmark 上的考試分數更能預測它未來能不能勝任真正的 AI Research Engineer 工作。


🚨 為什麼這件事重要這份研究的意義不在於「誰在 NanoGPT 上跑贏」,而是它建立了新的 AI 評量範式——把 AI 當成「自主研究員」而非「考試答題者」。過去的 benchmark(HumanEval、MMLU、SWE-bench)都是給 AI 一張固定考卷,看分數高低。但現實中的 AI 工程師不會被考卷限制——他們會自己試 100 種方法、改設定、寫子代理、讀 paper。NanoGPT Speedrun Frontier 模擬的就是這種「無上限試錯」的真實情境。

PrimeIntellect 自己就是分散式 GPU 算力市場的玩家,他們做這份研究有強烈的商業動機:證明「讓 AI 在算力市場上自己租 GPU 跑實驗」是一條可行路徑。如果 Fable 5 真的能在沒有監督下自主改進訓練管線 8.7 天,未來「AI 訓練 AI」的閉環就有了實證基礎。對開發者社群而言,這份研究也意味著:CLI 工具的設計品質直接影響模型表現。同一個 Kimi K3,切到 prime-agent 就比 kimi-code 高 6.4%。模型本身的智商已經不是唯一變數,「模型 × 工具」的乘積才是。

🚨 數據解讀與質疑雖然 PrimeIntellect 是這份研究的發布方,但有幾個值得懷疑的點:

  1. Fable 5 是 PrimeIntellect 自家模型——他們有沒有針對 NanoGPT 做特化訓練?他們強調「無監督純自主跑」,但訓練資料是否包含 NanoGPT 相關 paper?無法獨立驗證
  2. 8.7 天的長跑實驗 vs. 2.9 天的 Opus 5——Fable 5 雖然領先 28%,但花費的算力時間也接近三倍。如果換算成「每算力單位分數」,領先幅度可能縮水到個位數
  3. 24 小時上限偏鬆——大多數模型只用 1.1-6.1 天就跑完,但 Fable 5 跑到 8.7 天。如果統一限制 3 天,Fable 5 跟 Opus 5 的差距可能只剩個位數
  4. 公開的「41 條精選軌跡」並非全部——153 次實驗只公開 41 條,研究者無法重現完整分布總結:Fable 5 在「單任務長時自主實驗」這個維度確實領先,但「商業 AI 研究助理」的競爭才剛開始。下一輪 benchmark 應該加入「限制算力預算」與「限制時間」兩個變因,才能真正分出高下。

編按:本文綜合整理自 PrimeIntellect NanoGPT Speedrun Frontier 研究頁,並加入 Siami 編輯部觀點與分析。原文所有 18 個模型的實驗數據與 41 條精選軌跡可從 PrimeIntellect 官網直接查閱。

網友熱門留言 (6)

#1 @bastawhiz 0
Grok 的表現真的很尷尬。我不會輕易信任 xAI 的模型,但我想知道這有多少是模型本身的缺陷,又有多少是他們的 CLI 框架太爛。話說回來,就算框架差也無法辯解——一套好的框架本來就比較容易做、也比較便宜。
#2 @vibe42 0
原文提到:「幾乎每個模型都會找到相同的獲勝 idea。真正拉開差距的是實驗留下的東西——好的模型會把微弱訊號保留得夠久以便驗證,但也更懂得解讀結果。」好奇有沒有一個 CLI 框架能幫助保留訊號、避免過早收斂。
#3 @nsingh2 0
Sol 的狀況怎麼回事?註記說它花很多時間在等待,是沒有效率地使用時間(例如沒做平行實驗)導致時間軸被拉長嗎?我還看到 Opus 5 的註記寫說是用舊版 serial era 跑的,這些變因會不會影響排名公平性?
#4 @c0rruptbytes 0
AI 自主研究已成新寵兒了——推薦看 mlx.fast 這個專案,速度驚人。
#5 @ninjahawk1 0
我可能有漏看,但為什麼 Fable 5 是用 high 等級測、Opus 5 卻用 max 等級?似乎不少模型都沒有用相同的 effort 設定跑。雖然 effort 現在可以動態調整,這似乎會被視為一個實驗設計上的瑕疵。
#6 @totetsu 0
「我們跑了 153 次自主實驗橫跨 18 個前沿模型在 nanoGPT 優化器速度跑。」嗯…好,但「一次實驗」到底是什麼?點進 blog 看:「我們想衡量前沿模型能多好地做研究…」「我們跑了 153 次自主實驗在 nanoGPT 優化器速度跑橫跨…」好,但「一次最佳化」到底是什麼?研究網站需要更清楚的定義。