你的模型變笨了嗎?這個感覺可能有兩種來源。
一種是真的變差。2026 年 4 月,Anthropic 公開確認了三項變更。Claude Code 預設的 effort(模型思考要投入多少的設定)被調低。一個 bug 讓閒置超過一小時的對話,之後每回合都清掉先前的思考。還有一行系統指令(system prompt)要求回答更精簡。這三項都發生在產品上,那次事件沒有影響 API。
另一種是感覺變差。Arvind Narayanan 和 Sayash Kapoor 談 GPT-4 爭議時提到一個假說:人用得越多,越容易注意到模型的限制。他們也提醒,模型行為改變和能力退化,對使用者來說可能感覺很像。
Nerf 原本是遊戲用語,指把角色或武器改弱。NerfBench 想用反覆執行的測試,取代「我覺得」。
NerfBench 怎麼測
NerfBench 是 BridgeBench 推出的追蹤榜。做法像同一份私有考卷:50 題,每題考 3 次。第一次的成績當 100% 的基準,之後每次都和它比。
90–110% 算正常波動,因為光靠運氣,分數本來就會上下跳。要連續兩次往同一個方向超出範圍,才算數。
榜上現在長怎樣
榜上最新一次測試是 10 月 16 日,追蹤 4 個模型,沒有任何一個超出正常範圍。
分數怎麼看
NerfBench 的分數叫 Power,以下簡稱分數。通常大約六成看答對率,其餘看用了多少 token(模型處理文字的計量單位)和花多少錢,用得越少越加分。所以分數高,不代表模型更聰明。Codex 不回報費用,計分比重不同。
依官方公式試算,有兩種情況值得知道。答對率掉了不少,分數可能還在正常範圍。模型變便宜、答對的題目變少,分數甚至可能上升。
榜上的例子:Opus 5.5 在兩週內從 94.2% 變成 105.8%,兩個數字都算正常。
看分數時要記得:
- 測的是單次回答,沒有工具,和每天用 Claude Code 做專案不一樣。
- 分數變了,看不出是哪個原因造成。
- 完整題目和答案沒有公開,公開頁面也沒有每次測試的答對率、token 和費用,外人無法自己重算。
- 官方寫每週至少測三次,榜上公開的資料點比較少,發布前也要經過審核。
誰在做這個榜
BridgeBench 和 NerfBench 都由 BridgeMind 打造,這家公司販售一款 AI 寫程式工具。2026 年 4 月,BridgeBench 另一個測試的結果引來批評。批評者指出前後兩次的題數不同,只看共同的題目,差距很小。10 月,有人公開問範圍和比重怎麼訂出來,BridgeBench 隨後公布了測試方法,題目仍維持私有。
其他追蹤榜
- AI Stupid Level:經常測各家的 API。
- LiveNerf:開源,每天測 Claude Code。
- MarginLab:測 Claude Code,截至 10 月 31 日暫停偵測,正在重建基準。
覺得變笨時,依序檢查
- 開新對話,貼同一個問題。長對話也可能影響品質,原因看一百萬 token 的甜蜜陷阱。
- 看 effort 或 thinking 設定。
- 查 app 或 CLI 的版本和 release notes。Anthropic 文件寫,同一個模型 ID 的權重(訓練好的模型參數)不會更新,但周邊的服務可以改變。
- 同一題多跑幾次再判斷,因為單次結果有一部分是運氣。NerfBench 也會每題重複考。
- 最後才看追蹤榜。
榜上沒有異常,不代表你的情況沒變。榜上有異常,也看不出原因。