Anthropic 週二正式公開了最新模型 Claude Fable 5,將其定位為自家強大網路安全模型 Mythos 的「公開精簡版」。但這套為防止濫用而設下的護欄機制,卻讓一群真正的網路安全研究人員叫苦連天。
「Fable 會拒絕任何跟網路安全沾得上邊的請求。連讀個部落格文章這種無害的任務都不行,」IBM X-Force 知名安全研究員 Valentina「Chompie」Palmiotti 在受訪時直言。
只要 prompt 觸發了護欄,Fable 就會直接中斷對話,並顯示「安全措施已將此訊息標記為網路安全或生物學相關主題」。這個設計的核心考量,是避免 Fable 被用來開發惡意程式或入侵軟體 — 這也是 Anthropic 內部長期以來的核心顧慮;而生物學的限制則是出於對生化武器風險的同類擔憂。
回顧 Mythos 的釋出脈絡:今年四月 Anthropic 發表這個更強大的模型時,只開放給少數企業與組織使用,並把這個封閉測試計畫命名為「Project Glasswing」(玻璃翼計畫),目的是把模型部署在保護關鍵軟體與基礎設施的第一線。上週,Anthropic 進一步把 Mythos 的存取範圍擴大到 15 個國家、共數百個組織。
然而立意雖好,許多資安專家對護欄的「粗糙程度」仍相當感冒。資深研究員 Matt Suiche 向 TechCrunch 抱怨:「你請它寫安全程式碼,它會以為你在做資安相關的工作,結果直接降級回 Claude Opus 4.8。感覺完全是用關鍵字在擋,只要語意上碰到『網路安全』這個詞就會被觸發。」
Suiche 現職 AI 資安新創 Tolmo 的技術幕僚,他進一步緩頰:「不過這種情況可以理解,畢竟現在還是早期階段,他們也在調整護欄。我相信隨著 Anthropic 和其他前沿模型公司跟新一代資安公司更多合作,機制會慢慢演進。第一次釋出寧可多擋一點,也不要漏掉,之後再逐步放寬是合理的做法。」
另一位研究員則在 X 上發文抱怨:「光是要請它做個 code review,也會觸發 Fable 的護欄。」截至本文發稿,Anthropic 並未立即回應置評請求。
除了模型內建的護欄之外,Anthropic 還要求資安專業人士另外申請加入「Cyber Verification Program」(網路安全驗證計畫)。通過審核的申請者在使用 Claude 做資安相關工作時,限制會少很多。OpenAI 也有類似的機制,稱為「Trusted Access for Cyber」(網路安全信任存取)。
這場圍繞 Fable 護欄敏感度的爭議,其實折射出整個 AI 產業正在面對的核心難題:當一個模型強大到能保護與破壞「同一套基礎設施」時,要怎麼決定「哪些人、哪些任務」可以使用它的全部能力?Anthropic 選擇先嚴格再逐步放寬的策略,雖然讓合法使用者一時不便,但或許正是這個時代不得不付出的代價。
關鍵詞:Anthropic、Claude Fable 5、Mythos、Project Glasswing、AI 護欄、網路安全、資安研究
網友熱門留言 (5)