我將從一個 "聊完就忘" 的 Stateless Chatbot 開始,以適合新手的方式逐步實作 Context Management、Conversation History、Short-term Memory、Embedding、Semantic Search 與 Long-term Memory,再進一步處理 User Profile、記憶的重要性、更新、衝突與遺忘。最後加入 Tool Calling 與 Agent Loop,打造能自行判斷何時記住、找回、更新與遺忘資訊的 Agentic Memory AI Agent。
現在 AI 工具變得很普及,雖然使用起來很方便,但在用的時候還是會遇到一些小小困擾。 有時候 AI 好像很了解我們。前面提過的事情、我的習慣,甚至一些偏好,它都...
昨天先整理了一個很重要的觀念:AI 看起來記得前面的內容,不代表 LLM 本身真的擁有長期記憶。很多時候,是應用程式把前面的資訊再次放進這次的輸入裡,所以模型才...
我們在前兩天講了一些概念。Day1 先談 Stateless,Day2 再把 Token、Message 和 Context 串起來。今天我們來開始寫程式吧!...
昨天我們用 Python + LLM API 做出了第一個 Chatbot。它已經可以接收我們的輸入、把 Request 送到模型,再把 Response 顯示...
昨天我們替 Memora 加上了 System Prompt,讓原本什麼都能聊的 Chatbot,開始有一個比較明確的角色。 目前它已經知道自己是一個 Pers...
昨天我們已經找到了 Memora 接不上前一句的原因。問題不是 LLM 把資訊忘掉了,而是我們每次呼叫 API 時,只送出當下的 user_input,沒有把先...
昨天我們替 Memora 加入了 Conversation History。每一輪的 User Message 和 Assistant Message 都會被保...
昨天我們替 Memora 加入了 Token Usage 的觀察功能,也發現 Conversation History 不能永遠全部放進 Context。 目前...
昨天我們替 Memora 加入了 Sliding Window,只把最近幾輪 Message 放進 Context。 這讓每次 Request 不再隨著完整 C...
昨天我們替 Memora 加上 Conversation Summary。當較舊的訊息離開 Sliding Window 時,程式不再直接丟掉它們,而是把重要內...