1. 量化 (Quantization):模型的記憶體壓縮術 加速與最佳化是 LLM 投入生產環境的工程核心。當模型參數達到數十億甚至數千億時,我們必須透過技術...
Day 22:綜合回顧 — 串聯 LLM 的訓練與推論 本回顧將專注於 LLM 的核心:Transformer 架構,以及它如何完成從學習到應用的整個生命週期。...
Day 23:專案初始化與資料收集 一、學習目標與任務定義 本日學習重點在於為 FAQ 智能客服系統建立初始環境與知識資料庫,為後續的 RAG 系統開發奠定基礎...
Day 24:建立知識向量資料庫 (Knowledge Vector Database) 一、學習目標與任務定義 本日學習的核心目標是為 RAG 系統建立檢索基...
一、學習目標與 RAG 核心概念 本日是 FAQ Chatbot 專案的關鍵階段,目標是將 Day 24 建立的 FAISS 向量資料庫與 LLM 生成模型結合...