前言

近幾年，生成式 AI 發展快速，從 ChatGPT, Gemini, On Premises Model (Gemma, Llama, Qwen)，我們只需要輸入一句話 (Query Prompt)，就能讓 AI 幫忙寫程式、整理資料、生成文章、分析圖片等任務。
當自己真正開始做 AI 專案後，我慢慢發現讓 AI「回答問題」並不難，真正困難的是 AI 如何可靠地「完成任務」

以這次挑戰主題是希望打造一個客製化的智慧 AI 助理

• 它能不能理解內部文件
• 能不能根據資料回答，而不是自己亂猜
• 如果需要計算，它能不能使用計算工具
• 能不能查詢資料庫
• 能不能記住前面的對話
• API 出錯時怎麼辦
• 使用者輸入惡意 Prompt 時怎麼辦
• 如果真的部署到雲端，成本和效能是否可以接受

這些問題，已經不是單純「呼叫一個 LLM API」就能解決
因此，我想利用這 30 天，從零開始打造一套真正能運作的 AI 智慧助理

為什麼想做這個挑戰

我的學習背景主要從 Computer Vision、Deep Learning 與影像辨識
過去做 AI 專案時，常常會把注意力放在資料收集、模型訓練
但開始接觸生成式 AI 後，我發現 AI 的思考方式又不太一樣

今天我們不一定需要自己訓練一個大型語言模型，而是需要思考模型只是整個系統中的其中一個要素
真正的挑戰是如何把這些要素組合起來，形成一個可靠、可維護的系統
這也是我想透過這次鐵人賽重新整理的原因

這 30 天到底要做什麼

這次不打算每天單獨介紹一個 AI 名詞
而是設定一個明確的目標：

1. 能與 LLM 對話
2. 能理解自己的知識: 透過 RAG (Retrieval Augmented Generation)，讓 AI 可以搜尋自己的知識庫
3. 能夠使用工具: 讓 AI 不應該只是自己「猜」答案，而具有判斷能力，這也是從 Chatbot → AI Agent 的重要轉變
4. 能記住對話: 讓 AI 不只是處理單次問題，而是能理解一定程度的上下文
5. 能透過 API 與使用者互動: 不把 AI 永遠限制在 Terminal Window

這次會把整個挑戰分成六個階段

• Phase 1: LLM 與 Generative AI 基礎
• Phase 2: Prompt、Structured Output
• Phase 3 : RAG 知識庫
• Phase 4: Agent
• Phase 5: Memory、LINE BOT
• Phase 6: Cloud、Application

30 天之後，我希望留下什麼

這次鐵人賽的成果不會只有 30 篇文章，而是從零開始的實作過程
透過實際操作，更能理解理論知識
建立屬於自己的 AI 價值，讓它不只是回答，而是能準確完成任務

下一篇將帶來 AI 智慧助理要素

Day 2: 一個 AI 智慧助理，到底需要哪些要素

下一篇會先從整體架構開始拆解 LLM、RAG、Agent、Memory、API 各自負責什麼
因為這 30 天的第一步，並不只是 Coding，而是先搞清楚我們到底要做什麼