技術 Day07 — 最小可行的 RAG QA Bot（Web 版 MVP）

🔹 前言 昨天 (Day 6) 我們第一次跑出 Minimal RAG QA Bot，流程是： 使用者提問 → Embedding → 檢索 → LLM 回答。...

技術 Day06 - 初探 RAG（Retrieval-Augmented Generation）

🔹 前言 前兩天我們分別搞定了 RAG 的兩個基礎拼圖： Day 4 向量資料庫 → 負責「存資料」以及「找尋片段」 Day 5 Embedding 模型...

技術 Day05 - 向量模型（Embedding）- 四種 Embedding 模型實測與選型

🔹 前言 昨天 (Day 4) 我們比較了 向量資料庫，解決了「知識要存在哪裡，怎麼檢索」的問題。 但在 RAG (Retrieval-Augmented Ge...

技術 Day04 - 向量資料庫（Vector Database）- 常見選項與實務比較

🔹 前言 在 LLMOps 的世界裡，向量資料庫 (Vector Database) 幾乎是 RAG（Retrieval-Augmented Generatio...

技術 Day03 - 環境準備：Docker + Conda

🔹 前言 昨天（Day 2）我們扮演了 PM，把專案的需求、目標和架構拆解清楚。 今天開始，就要進入實作階段了，專案程式碼已放在 GitHub，之後如果有 De...

技術 Day02 - 系列專案介紹：企業知識庫 QA Chatbot

🔹 前言 通常工程師們在接到新任務的時候會由 PM (Product Manager) 產生 PRD。今天，我們也要照這個流程，先來釐清「為什麼」要做這個專案，...

技術 Day30-淺談 LLMOps

鐵人賽的最後，我們再來談最近很多人關心的主題：LLMOps。 過去幾年中，MLOps 已經成為顯學。MLOps 以其自動化、標準化以及對模型全生命周期管理的能力...

技術 Day02 - MLOps 簡介

MLOps 發展已經有一段時間，但是在 2020 年才開始逐漸被廣泛討論，這是因為在過去許多企業開始將 AI/ML 應用於生產環境，並開始面臨 AI/ML 應用...

技術 Day01 - 寫在之前: 為何您需要知道從 MLOps 到 LLMOps 的混合雲實踐這篇系列文?

MLOps 的發展也已經經歷了 5 年以上，目前來到了 LLM (大型語言模型) 的時代，而 LLM 的訓練與部署，更是需要更多的資源與時間，因此 MLOps...