一個軟體工程師的工程筆記:大型語言模型(LLM)是如何一步步變成我們今天日常在用的代理(agent)。從最原始的一句提示詞(prompt)開始、到模型眼中的詞元(token)、注入外部知識(RAG)、跨對話的記憶、可呼叫的工具與技能(skill),再到會自己規劃並執行的代理迴圈,以及今天多個代理的分工與互相審查。每一個技術節點都問:多了什麼能力,又多付了什麼代價。全程以 Claude 為開發主軸,看懂 AI 工程怎麼從一份純文字走到多代理。
前面五層,我每次攔到的都是一張單:一個 tool_use、一個 tool_result(第 16 篇)。但真的叫 Claude Code 做一件事,它不會只開一...
第 21 篇那個 while 停得很乾淨,因為模型自己走到 end_turn,說「做完了」。但這件事是模型說了算。我把預算上限設成一分錢(--max-budge...
第 18 篇我手寫過一個 44 行的代理迴圈,它送出去的,就是「我的訊息」加「我自己定義的工具」,乾乾淨淨。可是我用 Claude Code 問一句 20 字的...
前兩篇量了兩個數字:第 22 篇一分錢的預算花到 0.1175 美元才停,第 23 篇一句 20 字的問題組成 82,574 個詞元的請求。還有一個數字我一直沒...
第 24 篇最後那張表,把一個代理的天花板列成五塊:窗口、工具箱、執行路徑、權限、觀點。每一塊旁邊都寫了拆法,但拆開要多付多少,我只留了一句「下一層看實測的數字...
第 25 篇那段虛擬碼裡,主代理每一輪自己決定要開幾張 delegate 單、每張寫什麼。節點有了,可是邊是臨場長出來的:同一個問題跑兩次,圖可能長得不一樣。...
第 26 篇的寫審實驗裡,「要不要再審一次」是協調者自己決定的。第 2 次跑的時候,它判斷再跑也一樣,就停下來問我 cursor 的參數叫什麼。這個判斷很合理,...
第 27 篇最後問的是:拆成好幾個代理、接成一張圖之後,第 4 篇那 10 題會變好嗎?帳單又多了多少? 這一篇是第七層的代價。先講結論:這 10 題沒有變好。...
第 28 篇最後留了一個問題:同一套 10 題,第三層 6 分、第六層 8 分、第七層還是 8 分。分數停住了,是代理到頂了,還是這 10 題已經量不出差別?...
第 1 篇給過一個請求: { "model": "claude-opus-5", "max_token...