一個只有 30 億參數的模型,真有辦法在數學競賽和程式設計實戰中,挑戰千億、甚至上兆參數的旗艦大模型嗎?
微博最新開源的 VibeThinker-3B,把小型模型在特定能力維度的表現推向了前所未有的極限。
VibeThinker-3B 在 AIME26 測驗中拿下 94.3 分,搭配測試時擴展技術更一舉衝上 97.1 分;近期在 LeetCode 週賽的首次提交通過率也高達 96.1%。
這款 3B 小模型將可驗證推理能力練到近乎頂標,效能直逼頂尖的開源千億、上兆參數大模型,甚至超越了閉源的 Claude Opus 4.5。
3B 模型刷出頂尖成績
VibeThinker-3B 是 VibeThinker 系列在 30 億參數規模上的最新探索,它的前身 VibeThinker-1.5B 已經在 15 億參數的規格上做過一輪驗證。
這次參數規模擴大到 3B,重點聚焦在數學、程式設計、STEM 這類具有明確驗證訊號的推理任務上。
模型採用的是「Spectrum-to-Signal」(光譜到訊號)的後訓練範式,其核心思路是透過課程式監督微調、多領域強化學習以及離線自蒸餾,將可驗證推理能力推向極致。
在數學競賽的表現最為亮眼。AIME26 直接拿到 94.3 分,結合「Claim-Level Reliability Assessment」(CLR,一種針對答案可驗證推理的測試時擴展策略)後,進一步提升到 97.1 分。在包含 400 道國際奧林匹亞等級難題的高難度基準 IMO-AnswerBench 上,單次跑分獲得 76.4 分,加上 CLR 後達到 80.6 分。在 HMMT、AIME 這些傳統數學競賽基準上,模型的表現同樣穩健。
DeepSeek V3.2 用 6710 億參數在 IMO-AnswerBench 拿到 78.3 分,GLM-5 用 7440 億參數拿到 82.5 分,Kimi K2.5 用 1 兆參數拿到 81.8 分。VibeThinker-3B 的 80.6 分,硬是擠進了這個領先群,但它的參數量僅僅是對手的零頭。
不只在數學領域,VibeThinker-3B 在程式設計、知識和指令遵循這幾條軸線上,也都有優異的表現。
在 LiveCodeBench v6 上,Pass@1 達到 80.2;在 IFEval 評測中取得 93.4 分。
在多個可驗證推理基準測試中,VibeThinker-3B 與 Qwen3.6 Plus、Gemini 3 Pro、GLM-5、Kimi K2.5 等第一梯隊的推理模型同台較勁,整體表現已進入頂級模型的效能區間。
另一個觀察重點是其「分佈外泛化」的能力。研究團隊在 2026 年 4 月 25 日至 5 月 31 日期間,針對模型未曾見過的 LeetCode 週賽和雙週賽題目進行評估,全部題目皆使用 Python 作答。
在總計 128 道題目中,首次提交就通過了 123 道,通過率高達 96.1%。這表示模型並非只是在熟悉的題庫裡刷分,即便遇到從未見過的真實賽題,也能穩定產出解答。
程式碼能力的遷移性,往往比數學題更能說明模型的真實理解力,因為題目敘述、解題限制、資料結構對模型而言都是全新的,必須真正看懂題目才能解出來。
訓練流程的層層疊加
VibeThinker-3B 沿用其前身 VibeThinker-1.5B 所提出的「Spectrum-to-Signal Principle」(SSP,光譜到訊號原則)。
核心想法是在 SFT(監督微調)階段,先構建一個寬廣且合理的推理軌跡光譜,然後在 RL(強化學習)階段,再利用可驗證的獎勵機制,將正確的訊號放大。
首先執行的是基於課程的兩階段 SFT。前半段涵蓋數學、程式碼、STEM 推理、通用對話和指令遵循等通用能力,後半段則切換到更困難、推理跨度更長的樣本。
這裡使用了「多樣性探索蒸餾」,目的是保留多種有效的解題路徑,不讓模型只學到單一的打法。
接下來是多領域推理 RL,復用了 MaxEnt 引導策略優化(MGPO)。RL 依序應用在數學、程式碼和 STEM 任務上,全程使用單一 64K 長上下文視窗進行訓練,以保留完整的長跨度推理軌跡。
之後是離線自蒸餾。從數學、程式碼和 STEM 的 RL 檢查點中,挑選出高品質的推理軌跡,將其蒸餾回一個統一的學生模型。挑選標準使用了「學習潛力評分」,優先選擇那些答案正確但學生模型尚未充分掌握的軌跡。
最後一步是指令強化學習。在前幾輪將推理能力推向極限後,這一步專門用來提升模型對使用者提示的可控性。資料分為兩類:格式敏感指令和開放式指令,分別使用基於規則的驗證器和基於評分標準的獎勵模型進行學習。這使得模型既能進行深度推理,也聽得懂人話,IFEval 拿到 93.4 分就是這步驟的直接成果。
參數壓縮與覆蓋的邊界
從 VibeThinker-1.5B 到 VibeThinker-3B,團隊的目標是沿著特定能力維度,探索小模型真正的實力邊界。
透過觀察這一系列的結果,他們提出了「參數壓縮-覆蓋假說」。核心觀點在於,不同能力對於參數規模的依賴方式截然不同。
可驗證推理更像是一種高度可壓縮、參數密集的能力。它的本質是多步推理、限制條件滿足、自我修正和答案驗證這一整套循環。其任務空間結構清晰,回饋訊號可靠,因此小模型就有機會逼近領先水準。
數學題做對就是做對,程式碼能跑就是能跑,驗證訊號乾淨俐落。參數在此處的作用,更像是把既有的潛力放大,而不是用來裝載整個世界。
至於開放領域知識、通用對話和長尾場景理解,則完全是另一回事。這些能力仰賴大規模參數去廣泛覆蓋事實、概念和世界知識。一個事實沒見過就是答不出來,長尾場景沒訓練過就是不會處理,是壓縮不了的。參數在這裡的作用是儲存和檢索,沒有足夠的規模,就沒有足夠的知識覆蓋度。
如果這個假說成立,那麼小模型和大模型之間的關係,就不是替代,而更像是互補。在回饋機制明確的領域,小型語言模型是一條獨立的前沿路徑。壓縮型能力和覆蓋型能力,可能需要截然不同的擴展策略,若硬是套用同一套參數擴展邏輯,恐怕會落得兩頭空。
VibeThinker-3B 描繪出了一條與眾不同的能力曲線。像推理這種結構清晰、回饋可靠的能力,即便參數壓縮到極致,3B 的規模也能擠進 1 兆參數旗艦機種的效能區間。但需要廣大知識覆蓋的範疇,如知識、對話、長尾理解等,參數規模仍是繞不開的硬需求。
沿著這條路線走下去,頂尖的效能未必只能靠堆疊參數來實現。在能夠被驗證的領域裡把推理做到極致,小模型完全有機會成為獨立的一極。
微博開源 VibeThinker-3B,等於驗證了這條路線的可行性。開發者社群能不能在這個基礎上再往前推進一步,非常值得期待。
參考資料:
https://huggingface.co/WeiboAI/VibeThinker-3B
https://github.com/WeiboAI/VibeThinker