iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

從 Stateless LLM 到 Agentic Memory:30 天打造會記憶的 AI Agent 系列

我將從一個 "聊完就忘" 的 Stateless Chatbot 開始,以適合新手的方式逐步實作 Context Management、Conversation History、Short-term Memory、Embedding、Semantic Search 與 Long-term Memory,再進一步處理 User Profile、記憶的重要性、更新、衝突與遺忘。最後加入 Tool Calling 與 Agent Loop,打造能自行判斷何時記住、找回、更新與遺忘資訊的 Agentic Memory AI Agent。

參賽天數 23 天 | 共 23 篇文章 | 3 人訂閱 訂閱系列文 RSS系列文
DAY 1

Day 01|AI 真的記得你嗎?從 Stateless LLM 開始

現在 AI 工具變得很普及,雖然使用起來很方便,但在用的時候還是會遇到一些小小困擾。 有時候 AI 好像很了解我們。前面提過的事情、我的習慣,甚至一些偏好,它都...

2026-08-23 ‧ 由 KeleChiang 分享
DAY 2

Day 02|LLM 到底怎麼聊天?從 Token、Message 到 Context

昨天先整理了一個很重要的觀念:AI 看起來記得前面的內容,不代表 LLM 本身真的擁有長期記憶。很多時候,是應用程式把前面的資訊再次放進這次的輸入裡,所以模型才...

2026-08-24 ‧ 由 KeleChiang 分享
DAY 3

Day 03|用 Python + LLM API 做第一個 Chatbot

我們在前兩天講了一些概念。Day1 先談 Stateless,Day2 再把 Token、Message 和 Context 串起來。今天我們來開始寫程式吧!...

2026-08-25 ‧ 由 KeleChiang 分享
DAY 4

Day 04|Prompt 如何改變 AI?System Prompt 到 Prompt Engineering

昨天我們用 Python + LLM API 做出了第一個 Chatbot。它已經可以接收我們的輸入、把 Request 送到模型,再把 Response 顯示...

2026-08-26 ‧ 由 KeleChiang 分享
DAY 5

Day 05|為什麼 LLM API 聊完就忘?理解 Stateless API

昨天我們替 Memora 加上了 System Prompt,讓原本什麼都能聊的 Chatbot,開始有一個比較明確的角色。 目前它已經知道自己是一個 Pers...

2026-08-27 ‧ 由 KeleChiang 分享
DAY 6

Day 06|Conversation History 是什麼?讓 AI 接得上前一句

昨天我們已經找到了 Memora 接不上前一句的原因。問題不是 LLM 把資訊忘掉了,而是我們每次呼叫 API 時,只送出當下的 user_input,沒有把先...

2026-08-28 ‧ 由 KeleChiang 分享
DAY 7

Day 07|Context Window 為什麼會爆?Token Limit 的真相

昨天我們替 Memora 加入了 Conversation History。每一輪的 User Message 和 Assistant Message 都會被保...

2026-08-29 ‧ 由 KeleChiang 分享
DAY 8

Day 08|Token 太多怎麼辦?Sliding Window 與 Context Management

昨天我們替 Memora 加入了 Token Usage 的觀察功能,也發現 Conversation History 不能永遠全部放進 Context。 目前...

2026-08-30 ‧ 由 KeleChiang 分享
DAY 9

Day 09|AI 也要做筆記:用 Summarization 壓縮對話

昨天我們替 Memora 加入了 Sliding Window,只把最近幾輪 Message 放進 Context。 這讓每次 Request 不再隨著完整 C...

2026-08-31 ‧ 由 KeleChiang 分享
DAY 10

Day 10|Short-term Memory 完成:打造 Stateful Chatbot

昨天我們替 Memora 加上 Conversation Summary。當較舊的訊息離開 Sliding Window 時,程式不再直接丟掉它們,而是把重要內...

2026-09-01 ‧ 由 KeleChiang 分享