鐵人檔案
一個軟體工程師的工程筆記：大型語言模型（LLM）是如何一步步變成我們今天日常在用的代理（agent）。從最原始的一句提示詞（prompt）開始、到模型眼中的詞元（token）、注入外部知識（RAG）、跨對話的記憶、可呼叫的工具與技能（skill），再到會自己規劃並執行的代理迴圈，以及今天多個代理的分工與互相審查。每一個技術節點都問：多了什麼能力，又多付了什麼代價。全程以 Claude 為開發主軸，看懂 AI 工程怎麼從一份純文字走到多代理。
這一年我每天都在用 AI 代理（AI Agent）：會自己讀檔案、自己查資料、自己決定下一步要做什麼的那種工具。從以前卡住就翻 Stack Overflow，到...
一個大型語言模型（LLM）出廠的樣子是這樣的：沒有記憶、不知道你的事、也不能動手。要讓它變得好用，最先要補的那個洞其實最不起眼：輸出不受控。 這是七層裡的第二層...
上一篇在黑盒子裡找確定性，靠的是把話講清楚：情境、格式、不要什麼，全部寫下來。但有些東西很難用話講清楚，例如「我們團隊的 changelog 怎麼分」。這時候最...
上一篇的提示詞已經長出了情境、格式、一句明講的規則和六個範例。這些東西有一個共同點：它們全都擠在同一個脈絡窗口裡，而且每一次呼叫都要重送一遍。 總不能每次都重打...
把話講清楚、用範例教、把常用的交代存起來之後，還是有一類問題，問法再好也沒用： 「我上個月那份報告裡，關於成本的那段結論是什麼？」 它不知道。不是答得不好，是真...
上一篇把知識庫養大之後，發生了一件我沒打算談的事：Claude 自己切換成檢索模式。 進窗口的不再是整份文件，是搜出來的那幾段。 換句話說，窗口裡放什麼，已經不...
上一篇的結論是一句原則：窗口裡要放「最小的高訊號詞元集合」。 原則很好，但它沒有回答最實際的那個問題：那一小段，是怎麼被找出來的？ 這是第三層「外部知識」的第三...
檢索品質決定答案品質：召回率怎麼量、出處怎麼標 上一篇把檢索拆成三步：切塊、向量化、算距離。拆完之後知識庫不再是黑箱，但整篇有一個問題沒有回答：你怎麼知道它搜得...
