iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

30 天打造 AI 後端:從 LLM、RAG 到 AI Agent 系列

一名後端工程師的生成式 AI 實戰挑戰。從 LLM、Prompt、Token、Embedding 等基礎開始,逐步學習 RAG、Vector Database、Function Calling 與 AI Agent,並使用後端技術串接 AI 服務,最終完成一個可實際運作的 AI 應用。

鐵人鍊成 | 共 30 篇文章 | 2 人訂閱 訂閱系列文 RSS系列文
DAY 1

[Day 1] 30 天打造 AI 後端: 從 LLM、RAG 到 AI Agent - 只想相信 AI

背景現實世界中,使用者會遇到這些問題如下: 使用者問的問題,LLM (Large Language Model) 根本不知道答案(因為那是你們公司內部的資料)...

2026-08-27 ‧ 由 Alex Wang 分享
DAY 2

[Day 2] 大型語言模型 (LLM) 的基本介紹

今天開始會從零分享關於大型語言模型 (Large Language Model, LLM) 的相關知識,雖然大型語言模型不外乎就是 Open API 的 Cha...

2026-08-28 ‧ 由 Alex Wang 分享
DAY 3

[Day 3] 我真的夠了解語言模型嗎?從我們輸入的第一個字開始說起

昨天簡單介紹大型語言模型 (Large Language Model, LLM) 後,今天我會針對大型語言模型的輸入、輸出和整體架構做一個整體性的介紹。從使用者...

2026-08-29 ‧ 由 Alex Wang 分享
DAY 4

[Day4] 語言模型與 Vibe Coding

昨天講大型語言模型的基本機制,今天從火紅很久的詞 - Vibe Coding 開始講起。 Vibe Coding 是什麼? 能吃嗎? Vibe Coding...

2026-08-30 ‧ 由 Alex Wang 分享
DAY 5

[Day 5] 從 Vibe Coding 到 Agentic Coding :當 AI 從「共創夥伴」變成「可以委派任務的隊友」

昨天聊完 Vibe Coding 後,我們知道 Vibe Coding 可以從 0 到 1 產生一個可以 Demo 的產品及相關隱憂。接下來,我們要討論 Age...

2026-08-31 ‧ 由 Alex Wang 分享
DAY 6

[Day 6] Agentic Coding 最大的問題不是 AI 不夠聰明,而是人類不會下指令

昨天聊到 Agentic Coding 後,我開始想到一個很實際的問題: 如果真的把開發任務交給 AI Agent,它真的能乖乖完成嗎? 例如我們只說: 「幫我...

2026-09-01 ‧ 由 Alex Wang 分享
DAY 7

[Day 7] 一本正經胡說八道的 LLM :從三個先天限制走向 RAG

昨天在 Day 6 的結尾丟了一個問題: 如果 LLM 根本不知道公司的內部資料,它又要去哪裡找答案? 這個問題其實在 Day 1 系列簡介的時候就埋下了:...

2026-09-02 ‧ 由 Alex Wang 分享
DAY 8

[Day 8] 問「特休沒休完會怎樣」,程式怎麼知道要看規章哪一段?

昨天說 RAG 像讓 LLM 開卷考:不用死背,考試時翻資料夾找答案。但動手做才發現,開卷考有個前提——你要先翻得到那一頁。整本課本丟給你卻不知道答案在第幾章,...

2026-09-03 ‧ 由 Alex Wang 分享
DAY 9

[Day 9] 我讓三種 Chunking 切法同場競技:最被看好的墊底,命中率還會騙人

賽前我最看好「固定字數+overlap」——教學文都說它是安全牌。實測結果:它墊底。更麻煩的是,三種切法的命中率看起來根本打平,直到我多算一個指標才拆穿假象:有...

2026-09-04 ‧ 由 Alex Wang 分享
DAY 10

[Day 10] 五萬向量實測 HNSW:快 32 倍的代價,是 15 題錯 3 題

同一份索引、同一批題目:精確檢索答對 10/15,HNSW 用預設參數答對 7/15。掉的那三題,top-1 不是「排錯的條文」——是三個根本不存在的隨機向量。...

2026-09-05 ‧ 由 Alex Wang 分享