在上一篇我們實作了基礎的 Speed Layer 架構,包含 Source、Sink、SimpleStreamingEngine 三個核心組件。一開始系統運作良...
在第一天,我想先從基礎先談起。大家可能都聽過生成式 AI 像是 (ChatGPT),有時候使用完他可能也是在「亂編答案」,不見得能夠一步到位就生成你想要的問題,...
在 Day 24,我們打造了第一個可以「對話」的 Notion × LLM 助理,讓使用者能直接用自然語言從筆記中搜尋答案。但實際使用後我發現,它仍然比較像是「...
昨天我們談到 LLM(大型語言模型)如何從 Transformer 的架構中誕生。
那麼,LLM 為什麼能這麼聰明?為什麼只要問它一個問題或是給它一段提示,它就...
一. 背景
在傳統的檢索增強生成(RAG)中,模型往往「檢索即用」:檢索到的文件直接交給模型生成答案。這種方式雖然方便,卻容易被錯誤資訊誤導。CRAG(Corr...
昨天我們學會了用 List 管理對話歷史,讓 AI 終於能記住剛才說過的話。這個簡單而有效的方法,已經讓我們的 AI 應用從「健忘機器人」進化成「有記憶的助手」...