編按：本文綜合整理自 Tencent 官方新聞稿、Hugging Face 模型卡、GitHub 倉庫，並加入 Siami 編輯部觀點與分析。
模型架構設計
Hy4 preview 採用 Mixture-of-Experts（MoE）架構，骨幹共 78 層，第一層使用標準 dense FFN，其餘 77 層改為 MoE：每層 256 個 routed experts 加 1 個 shared expert，每個 token 啟用 top-8 routed experts 加 shared expert。此外還內建 1 個原生 MTP 層（Multi-Token Prediction），總參數 10B、啟動 0.7B，用於 speculative decoding。
注意力模組採用「Gated DeepSeek Sparse Attention」（Gated DSA）搭配 IndexCache 做跨層稀疏索引複用，殘差路徑則使用 iHC（identity Hyper-Connections）來擴展層與層之間的資訊流。
主要規格整理如下：
- 總參數：770B
- 啟動參數：49B per token
- Context 長度：1M tokens
- Vocabulary：120,832
- Attention：Gated DSA、64 heads
- Hidden size：6144
- Routed experts：256 / 激活 8
內部盲測結果
騰訊邀請 163 位內部專家，針對 203 個工程任務進行盲測評比，Hy4 preview 拿到平均 2.99 / 4.00 分。相較之下：
- GLM 5.3：2.92 分（勝率 46.8% / 平局 12.8% / 敗率 40.4%）
- Kimi K3：2.94 分（勝率 51.2% / 平局 7.9% / 敗率 40.9%）
Hy4 preview 在生產力四大場景上做了針對性優化：
- 軟體工程：長任務的理解、規劃、除錯、驗證能力強化，前端開發的視覺品味與互動品質也明顯提升。
- 辦公與分析：可處理跨多檔案的複雜資料並產出文件、試算表、簡報；數據分析、方程式與金融模型精度提升。
- 遊戲開發：單一 prompt 即可生成可玩原型，並能與遊戲引擎協作，支援多輪迭代開發。
- 科學研究：在 AI 研究、分子動力學、凝態物理、純數學等領域都有進展。
開放與部署
Hy4 preview 採用 Apache 2.0 授權釋出，權重同步上架 Hugging Face、ModelScope、GitCode、CNB 四個平台，並提供 FP8 量化版本（Hy4 preview-FP8）方便硬體受限的開發者部署。
部署方面官方推薦 vLLM 與 SGLang 兩大推理框架：
- vLLM：官方提供
vllm/vllm-openai:hy4-previewprebuilt image，支援 speculative decoding（MTP）。 - SGLang：
lmsysorg/sglang:hy4-preview映像（多架構，x86 與 Arm 都支援）。
使用者層面則可透過 WorkBuddy、CodeBuddy、Yuanbao、ima 等騰訊系產品直接試用，或透過 Tencent Cloud TokenHub 與 OpenRouter 串接 API。官方活動：WorkBuddy 與 CodeBuddy 提供兩週免費體驗；Hy3 免費使用延長至 9 月 30 日。
已知限制與社群反應
騰訊團隊坦言這是早期版本，仍有進步空間，主要問題包括：
- 在複雜任務上推理時間偏長
- 傾向「過度自我驗證」，會多花算力檢查自己的工作
事實上 HN 社群也有人提到：「Hy3 preview 與 final release 之間的差距是從『不可用』到『有競爭力』」—— 意味著 preview 版本不等於最終實力。
社群觀察的另一個重點是 OpenRouter 上的流量。資料科學家 minimaxir 指出：「Hy4 在 OpenRouter 上短短幾天已處理數兆 tokens，比 GLM 5.3 整個發布週的量還多」—— 對一個開源模型而言是驚人的起步。不過也有人質疑這些數字可能被發行方付費買曝光，需要時間觀察真實留存。
為什麼這件事重要
- 開源大模型競爭白熱化：Hy4 preview 直接挑戰 GLM-5.3、Kimi K3 這些同級開源旗艦，騰訊內部盲測的勝率數字雖然小幅領先，但三個模型分數都擠在 2.92-2.99 之間，意味著「開源前沿」已經不再是單一公司獨大，而是一個高密度競爭區。
- 1M context 進入量產：過去 1M context 是少數實驗性模型的特性，現在騰訊、GLM、Kimi 都把這個當標配。未來應用層不必再為長文件做切割，可直接讓模型讀完整份合約、整個 codebase。
- MoE 路線成主流：770B 總參數 / 49B 啟動參數的比值證明 MoE 是目前規模化 LLM 的標準答案—— 兼顧「訓練成本可控」與「推理時算力節省」。
- 「preview 早發」策略被驗證：騰訊在 README 直接寫「與其悶著做完美版，不如先發出來看社群回饋什麼壞掉」—— Hy3 從 preview 到 final 的跳躍證明這套策略有效，也讓 Hy4 preview 後續改版值得期待。
數據解讀與質疑
- 內部盲測 vs 第三方 benchmark：騰訊釋出的勝率數字來自「163 位內部專家 × 203 個工程任務」，這是自家評比，會有 home-field advantage 偏差。獨立第三方評測（如 lmsys Chatbot Arena、HELM）尚未跟上。HN 上的早期使用者評價目前看起來正面但樣本數仍少。
- OpenRouter 流量真實性：雖然 minimaxir 引述「Hy4 數兆 tokens」的數字，但這些可能是 prompt caching hit（快取命中）造成的重複計算。另一位評論者指出 DeepSeek 在 prompt cache 機制上是 SOTA，暗示 OpenRouter 上的數字未必反映真實算力需求。
- 官方「內部盲測」的口徑：勝率 51.2%（對 Kimi K3）看似領先，但若把平局扣除，純勝率僅 11 個百分點 —— 在生產力這種主觀性高的任務上，統計顯著性需要更多獨立樣本支撐。
- 「over-verification」是 bug 不是特性：模型傾向反覆驗證自己的工作會拉長響應時間、增加 API 成本，使用者若按 token 計費可能會被影響。這在 README 裡被當作「已知問題」誠實揭露，但對生產部署來說是實際要納入評估的成本因子。
網友熱門留言 (3)