鐵人檔案
一名後端工程師的生成式 AI 實戰挑戰。從 LLM、Prompt、Token、Embedding 等基礎開始，逐步學習 RAG、Vector Database、Function Calling 與 AI Agent，並使用後端技術串接 AI 服務，最終完成一個可實際運作的 AI 應用。
昨天量出一件反直覺的事：讓模型自己決定查幾次，跟寫死的檢索打成平手，而且貴 4.4 倍。最硬的證據是——兩邊撈到一模一樣的條文，對照組算對了，agent 算錯...
前 21 天我一直在修檢索、修 prompt、修尺、修 agent，但有一個前提從來沒被檢討過：餵進去的語料是我自己寫的乾淨 markdown。 標題工整、沒...
昨天文末我留了一句話當預告：企業真正的素材不是純文字。特休天數藏在「滿三年未滿五年｜十四日」的同一列裡，簽核層級藏在箭頭的方向裡。那兩樣都不是字。今天照預告把...
一、全貌 Day 24 服務架構圖：最上面是呼叫端，往下經過 middleware（RequestId 與 Timing），分成 POST /ask 與 POS...
服務架構圖：呼叫端往下經過 middleware，分成 POST /ask 與 POST /documents 兩條路，兩條都從同一個 Retriever 介面...
這支服務把一份公司工作規則（59 段條文）變成問答 API：POST 一個問題，回答案加出處。前兩篇把散落的腳本收成服務、讓它撐得住第二個使用者，今天處理的是另...
一、先說結論 一、帳單的 89.9% 是輸入，只有 9.9% 是輸出。（證據在第五節）輸入是我塞給模型的東西（條文加指示），輸出是它講出來的答案。輸出的單價確實...
Day 24 那天把 agent 接進服務，重點全在「怎麼讓一個不能改的東西跑進來」。它原本直接抓著向量資料庫的物件不放，而服務這一側早就把檢索換成一個介面了，...
先說答案 常聽到的理由 numpy 做得到嗎 對 agent 來說 站得住嗎 查得快 做得到，59 條反而更快 agent 會查好幾次，但每次都遠...
在今天之前，打這支 API 的只有我自己的 curl。今天沒有實驗，也沒有預測對帳。 兩種使用者 人 模型 入口 /ui/，Vue 3 單頁 m...
