鐵人檔案
基礎或一般指令型 LLM 著重文字續寫與指令遵循，reasoning model 則透過問題分解、多次取樣、反思與可驗證獎勵，把更多運算投入解題。推理模型仍以逐 token 預測產生文字，但若只用「隨機鸚鵡」概括它，便忽略了後訓練、測試時運算與外部驗證帶來的能力差異。本系列以 Sebastian Raschka 的《Build a Reasoning Model (From Scratch)》為主，從 Qwen3 0.6B Base 出發，實作評估、SFT、RLVR、GRPO、verifier 與工具使用，手把手進行實作和探索：模型只是生成更像推理的文字，還是真的提高了解題能力？
在過去幾天的鐵人賽文章中，我有使用一道 4^6 = 8^n 數學題，來展示 teacher trajectory，第一行先寫了 $n=3$，最後才推到正確的 \...
Day 21 的 RLVR 內容談及 final-answer verifier：答案對就給 1，答案錯就給 0；今天我們先不論訓練後的模型有沒有變強，讓我們延...
本日我們將沿著第 2 次更新，看到 verifier 給出的 1 分經過 advantage 與 response log probability；這一步的 g...
Day 23 的 checkpoint curve 留下一個問題：訓練後表現最好的第 10 次更新答對 32 題，Base 卻答對 41 題，後面四份 chec...
第 10 次更新是這趟訓練表現最好的 checkpoint，在 256 道開發集題目上答對 32 題，Base 則答對 41 題。Day 24 的實驗結果已經追...
Day 25 的 RLVR checkpoint 沒有通過晉級門檻，今天的實驗也沒有沿用那批 rollouts，而是換成另一種解決方法：先讓能力較強的模型示範如...
計算器已經回傳 12.0，模型收到結果後第一行也寫下 12.0，final-answer evaluator 最後卻選了 18。這個結果出現在本次工具實驗的第四...
在 Day 27 的計算題裡，我使用的推理系統已經算出 12.0，模型最後卻因為輸出被截斷而交出 18。後來我並沒有重新訓練模型，也沒有換一個更大的 check...
這輪鐵人賽已接近尾聲，我們的一系列實驗都圍繞在 Qwen 3 0.6B 的推理模型上，然而目前早已出到 Qwen 3.8 版本，那麼目前最新以及最主流的 Qwe...
在 Day 1、也就是本次鐵人賽開頭，筆者比較了 2022 年剛問世的 ChatGPT 與 2026 年的、當今最前沿的 GPT-Astra 模型放在一起比較，...
