1. 量化 (Quantization):模型的記憶體壓縮術 加速與最佳化是 LLM 投入生產環境的工程核心。當模型參數達到數十億甚至數千億時,我們必須透過技術...
Day 22:綜合回顧 — 串聯 LLM 的訓練與推論 本回顧將專注於 LLM 的核心:Transformer 架構,以及它如何完成從學習到應用的整個生命週期。...
Day 23:專案初始化與資料收集 一、學習目標與任務定義 本日學習重點在於為 FAQ 智能客服系統建立初始環境與知識資料庫,為後續的 RAG 系統開發奠定基礎...
Day 24:建立知識向量資料庫 (Knowledge Vector Database) 一、學習目標與任務定義 本日學習的核心目標是為 RAG 系統建立檢索基...
一、學習目標與 RAG 核心概念 本日是 FAQ Chatbot 專案的關鍵階段,目標是將 Day 24 建立的 FAISS 向量資料庫與 LLM 生成模型結合...
Day 26:前端互動介面(Gradio 部署實戰) 一、學習目標與前端工具選型 本日目標是為先前完成的 RAG 核心模型建立一個可互動的 Web Chatbo...
一、學習目標與工程實現 本日目標是將 Day 24 產生的知識向量資料庫(持久化資料)載入,並使用 Gradio 建立一個可互動的 Web Chatbot。...
Day 28 報告:RAG 系統優化與安全回答邏輯實作 一、優化目標與系統架構進化 本日核心目標是在 Day 26 的基礎上,強化 RAG 系統的魯棒性 (Ro...
Day 29 報告:RAG 智能客服最終整合與功能擴充 一、最終整合目標與系統架構 本次實作是 RAG Chatbot 專案的最終版本,旨在整合所有先進功能,包...
Day 30 總結報告:RAG 智能客服專案回顧與技術掌握 一、專案背景與整體目標 本專案圍繞「校園 FAQ 智慧客服」主題展開,目標是建立一個具備語義理解、精...