迴圈裡唯一不是「做」的那一站

Day2 把 agent loop 拆成四站：看現況、想下一步、動手做、看結果。前面幾天拆的都是「看現況」（AGENTS.md、Skills）和「動手做」（工具）。今天拆中間那一站——模型願意花多少力氣想。

Pi 把這件事做成一個叫 thinking level 的旋鈕，七個檔位：

off → minimal → low → medium → high → xhigh → max

預設是 medium。可以用 --thinking high 指定，也可以用 --model luna:high 這種簡寫，互動模式裡則在 /settings 調。我們每一次實驗的 session 記錄第三行就是它：

{"type":"thinking_level_change","thinkingLevel":"medium"}

七個檔位不是每個模型都有

這是實作上最有意思的部分。各家模型的「思考」控制方式不一樣，Pi 用一張 thinkingLevelMap 把自己的七個檔位對應到各模型實際支援的值。這張表有三種狀態：

我們這系列用的 gpt-5.6-luna，它的表長這樣：

"thinkingLevelMap": { "minimal": "low", "xhigh": "xhigh", "max": "max" }

翻譯成白話：off、low、medium、high 照標準對應送出去；minimal 這個檔位在這個模型上其實就是 low——你選 minimal，送出去的是 low；而 xhigh、max 這兩個延伸檔位它有支援。

這代表一件事：同樣一個 --thinking minimal，換一個模型可能是完全不同的東西。做跨模型比較時，這是個容易踩到的陷阱。

off 不是送一個「off」

另一個實作細節：把 thinking 關掉的時候，Pi 不是送 reasoning_effort: "off"，而是整個欄位不送：

const reasoningEffort = options?.reasoningEffort;
if (!reasoningEffort && value.omitWhenOff) {
    return undefined;
}

這是對的做法——很多 API 沒有「關閉思考」這個值，只有「不要求思考」。

記錄裡看得到什麼

在 session 記錄裡，模型的思考會以一個 thinking 型別的 content block 出現。但用 Codex provider 時，內容是加密的：

{"type":"thinking","thinking":"",
 "thinkingSignature":"{\"id\":\"rs_...\",\"encrypted_content\":\"gAAAAA...\",\"summary\":[...]}"}

真正的推理過程看不到，有時候 summary 會給一行標題，例如我們某次執行裡出現的 **Fixing discount calculation and tests**。

看不到內容，但量得到用量。每一輪的 usage 裡有一個獨立的 reasoning 欄位，記錄這一輪花了多少 reasoning tokens。

校準資料裡的 thinking 用量

把第一輪校準的 30 次執行（全部都是預設的 medium）攤開來看：

兩個觀察：

1. 任務越「有流程」，thinking 佔比越高。 T5 資料遷移要照六個步驟走，reasoning 佔了 output 的 27%；T1 只是修一個邊界條件，只有 14%。
2. 但 thinking 不是成本的大頭。 同一批資料的成本拆開來是：input 0.107 美元、output 0.043 美元、命中快取的 input 0.019 美元。六成以上的錢花在「把 context 重送給模型」，而不是模型思考或產出。

第二點很反直覺，也直接影響 Day17 的假設：把 thinking 調高，直觀想是「變貴」，但如果想得更清楚能讓它少繞幾輪、少讀幾個檔案，省下來的 input 可能比多花的 output 更多。

明天要量什麼

Day17 會拿同樣的任務跑 off、low、high 三組，看三件事：

• 成本曲線：thinking 調高，總成本是單調上升，還是先降後升？
• 輪數：想得多會不會讓迴圈變短？
• 成功率：在我們這組任務上，thinking 對做不做得成有沒有影響。

因為校準已經顯示成功率有天花板效應，我的事前預測是：成功率三組差不多，但成本和輪數會分出高下。這個預測現在先寫下來，明天再看資料打不打臉。

明天

Day17 公布 off／low／high 的三條曲線。