在這 30 天我們將從零開始,紮實拆解 RAG 的核心元件與運作流程,並深入剖析檢索與回答兩大面向共 8 種關鍵評測指標,建立清晰的診斷能力;透過循序漸進的觀念梳理與階段性總結,一步步建構出系統化的評測思維,擺脫盲目調整的困境,用客觀數據讓 RAG 系統發揮最大價值!
Day17 到 Day20,我們分別從四個角度檢查了 RAG 系統的回答。今天要把這四個指標放在一起看,它們如何互補、怎麼組合判讀,以及分數不好的時候該往哪裡找...
接下來讓我們開始實際自己開發一個 RAG。 動手寫程式之前,先把環境準備好。後面每一天的內容都會建立在同一套環境上,版本一致可以省下很多「為什麼在我電腦上跑不起...
昨天我們安裝了 uv,建立好專案與虛擬環境。今天要讓這個 RAG 系列完全在自己的電腦上運作,用 Ollama 在本機執行 Embedding 與對話模型,不需...
昨天我們裝好了 Ollama、模型與 Python 套件。今天正式寫第一段 RAG 程式:把 data/ 裡的文件讀進來,再切成適合檢索的小段落(chunks)...
昨天我們把文件切成了 chunks。今天要讓這些 chunks 變得「可搜尋」:用 bge-m3 把每個 chunk 轉成向量,存進 Chroma 向量資料庫,...
昨天我們已經能從向量庫撈出最相關的 chunks。今天要把檢索接上語言模型:用 qwen3:8b 根據撈回來的內容生成答案,並且同時顯示答案引用了哪些來源。做完...
昨天我們完成了第一版 RAG,但目前只能靠肉眼判斷答案好不好。今天要把「好不好」變成數字:準備一份有標準答案的測試集,讓 RAG 跑一遍,再用 RAGAS 的四...
昨天的四個指標衡量的是「通用」的 RAG 品質,但每個系統都有自己在意的事。我們的技術問答助理至少有三個需求,是 Faithfulness 與 Context...
前幾天我們建好了 RAG、四個通用指標和四個自訂指標。今天是整個系列的收尾,要用這些指標做真正的工程工作:先找出系統哪裡不好、判斷問題出在檢索還是生成,再調整參...
RAG(Retrieval-Augmented Generation)的出發點,是語言模型的知識來自訓練資料,有時間範圍,也不會涵蓋企業內部、經常異動的規章。R...