一名後端工程師的生成式 AI 實戰挑戰。從 LLM、Prompt、Token、Embedding 等基礎開始,逐步學習 RAG、Vector Database、Function Calling 與 AI Agent,並使用後端技術串接 AI 服務,最終完成一個可實際運作的 AI 應用。
把昨天那 5 萬塊向量搬進 Chroma:加一條新規定 75 毫秒生效、重開機資料還在、能只搜某一章。然後同一組 15 題用預設參數查,命中率從 10/15 掉...
昨天介紹完 Chroma 後,大家應該對向量資料庫及向量有初步的認識,接下來我們要針對向量資料庫進行詳細介紹及分析。 向量資料庫(Vector Database...
延續前幾天的向量資料庫理論,今天動手實作。分別用 Qdrant(原生向量資料庫)跟 pgvector(PostgreSQL 擴充套件)跑一次完整流程:安裝 →...
同一組 15 題,Day 11 的 Chroma 量到 top-1 命中 10/15。今天把它接上 LLM,答案正確 15/15。 兩個數字不只不一樣,方向還是...
同一組 15 題、同一份語料、同一次檢索,我算了兩個分數: 檢索命中率(top-1,排第一名的是不是我要的那條):10/15,怎麼調都不動 答案正確率:2 →...
昨天那 15 題,模型幾乎全對——我在文末自己承認:全對的實驗代表考題太簡單。今天加五題語料裡根本沒有答案的陷阱題。 基本版 prompt 在五題裡只「幻覺」了...
Day 14~16 的題目有一個我一直沒講的共同點:每一題都只要一條條文就答得完。在那個前提下,Day 15 的結論成立得很漂亮——「答對率的天花板就是 rec...
這系列我在做一個東西:你用白話問公司規章,它回答你。 「加班三小時怎麼算錢?」「請假沒事先申請會怎樣?」它去翻一份工作規則,找出相關的那幾條,然後用人話講給你聽...
這是《30 天打造 AI 後端:從 LLM、RAG 到 AI Agent》的第 19 篇。完全沒看過前面也讀得下去,這篇不需要任何背景。 誰來改考卷 我做了...
一、兩種做法,同一題走一遍 差別用講的很抽象,直接走一次。問題:「沒來上班也沒跟任何人講,會有什麼後果?」 對照組(Day 14 以來的寫死管線): 1. 把使...