iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

30 天打造 AI 後端:從 LLM、RAG 到 AI Agent 系列

一名後端工程師的生成式 AI 實戰挑戰。從 LLM、Prompt、Token、Embedding 等基礎開始,逐步學習 RAG、Vector Database、Function Calling 與 AI Agent,並使用後端技術串接 AI 服務,最終完成一個可實際運作的 AI 應用。

鐵人鍊成 | 共 30 篇文章 | 2 人訂閱 訂閱系列文 RSS系列文
DAY 11

[Day 11] 換上 Chroma:過濾、持久化、增量都有了,但預設參數照樣掉題

把昨天那 5 萬塊向量搬進 Chroma:加一條新規定 75 毫秒生效、重開機資料還在、能只搜某一章。然後同一組 15 題用預設參數查,命中率從 10/15 掉...

2026-09-06 ‧ 由 Alex Wang 分享
DAY 12

[Day 12] 向量資料庫大亂鬥

昨天介紹完 Chroma 後,大家應該對向量資料庫及向量有初步的認識,接下來我們要針對向量資料庫進行詳細介紹及分析。 向量資料庫(Vector Database...

2026-09-07 ‧ 由 Alex Wang 分享
DAY 13

[Day 13] 向量資料庫實際操作 — Qdrant 與 pgvector

延續前幾天的向量資料庫理論,今天動手實作。分別用 Qdrant(原生向量資料庫)跟 pgvector(PostgreSQL 擴充套件)跑一次完整流程:安裝 →...

2026-09-08 ‧ 由 Alex Wang 分享
DAY 14

[Day 14] 我前六天在優化錯的東西:top-1 命中 10/15,答案卻對了 15/15

同一組 15 題,Day 11 的 Chroma 量到 top-1 命中 10/15。今天把它接上 LLM,答案正確 15/15。 兩個數字不只不一樣,方向還是...

2026-09-09 ‧ 由 Alex Wang 分享
DAY 15

[DAY 15]RAG 到底要評估什麼?我發現 Retrieval 命中率根本不等於答案正確率

同一組 15 題、同一份語料、同一次檢索,我算了兩個分數: 檢索命中率(top-1,排第一名的是不是我要的那條):10/15,怎麼調都不動 答案正確率:2 →...

2026-09-10 ‧ 由 Alex Wang 分享
DAY 16

[Day 16] 最危險的答案是「規章沒寫,但國內是三千元」

昨天那 15 題,模型幾乎全對——我在文末自己承認:全對的實驗代表考題太簡單。今天加五題語料裡根本沒有答案的陷阱題。 基本版 prompt 在五題裡只「幻覺」了...

2026-09-11 ‧ 由 Alex Wang 分享
DAY 17

[Day 17] 聯集 recall 從 62% 爬到 88%,答對率從 5/8 掉到 3/8

Day 14~16 的題目有一個我一直沒講的共同點:每一題都只要一條條文就答得完。在那個前提下,Day 15 的結論成立得很漂亮——「答對率的天花板就是 rec...

2026-09-12 ‧ 由 Alex Wang 分享
DAY 18

[Day 18] 我寫了一個自動改考卷的程式,今天發現它 40 題改錯 25 題

這系列我在做一個東西:你用白話問公司規章,它回答你。 「加班三小時怎麼算錢?」「請假沒事先申請會怎樣?」它去翻一份工作規則,找出相關的那幾條,然後用人話講給你聽...

2026-09-13 ‧ 由 Alex Wang 分享
DAY 19

[Day 19] 我昨天指認的兩個病灶,有一個診斷錯了——rubric 修到 31/40,認輸

這是《30 天打造 AI 後端:從 LLM、RAG 到 AI Agent》的第 19 篇。完全沒看過前面也讀得下去,這篇不需要任何背景。 誰來改考卷 我做了...

2026-09-14 ‧ 由 Alex Wang 分享
DAY 20

[Day 20] 我讓 AI 自己決定要查幾次資料。結果打平,而且貴 4.4 倍

一、兩種做法,同一題走一遍 差別用講的很抽象,直接走一次。問題:「沒來上班也沒跟任何人講,會有什麼後果?」 對照組(Day 14 以來的寫死管線): 1. 把使...

2026-09-15 ‧ 由 Alex Wang 分享