不租 GPU、不用 API 金鑰,只靠一台裝了 Ollama 的筆電,30 天把一個現成開源模型從「回一句話」逐步堆成「會自己檢索、用工具、驗證產出、分節點協作」的 agent。
Day 1:LLM本質上就是一個接龍遊戲 LLM(大型語言模型,Large Language Model)做的事情,乍看之下很像接龍:它讀取目前已有的 tok...
Day 1 先把本專案要處理的問題說清楚:從網頁 AI 走到本地 AI 後,模型放在哪裡、怎麼載入、記憶體怎麼使用,都會變成自己要面對的事情。 GitHub...
Day 2 的 frontier_knowledge.py 已經能把一個 prompt 送到 mlx_lm.server,讀回 JSON,再印出回答。問題也很...
Day 3 把一次性呼叫改成互動式 Chat Runner。程式可以連續接收問題,但每次 request 只送出目前那一題,模型看不到前面的對話。 GitHu...
Day 4 已經把固定的 system message 放進每次請求,但 Runner 收到模型的 message.content 後就直接印出來。今天只改一...
Day 05 已經能要求模型回傳固定 JSON,互動模式卻還有一個很明顯的缺口:終端機看起來像在聊天,模型每次實際收到的只有當下那一題。前一輪問過什麼、模型答...
Day 06 讓互動模式真的帶上前一輪對話。到了第一週最後一天,Runner 已經可以單次呼叫、持續互動、加入 system message、驗證 JSON...