2025 iThome 鐵人賽

2025 iThome 鐵人賽

沒在獨自升級的一起來

DevOps

最新文章熱門文章

選手 23 文章 645

Day 23

2025-10-07

1436

0

30 天帶你實戰 LLMOps：從 RAG 到觀測與部署系列

Day23 - 讓 LLM 應用與時俱進：RAG 增量 × Fine-tuning 部署與治理指南

🔹 前言昨天（Day22）我們談到 Registry（模型／知識庫版本管理），確保任何時候線上跑的都是唯一正確的版本，並且升級、回滾都有紀錄可查。然而，現實世...

Day 19

2025-10-03

1418

1

初探 LLM 可觀測性：打造可持續擴展的 AI 系統系列

【Day 19】AI Gateway 深度選型：從流量代理到智能控制平面

前言在 LLM 應用從小規模 PoC 走向生產環境的過程中，AI Gateway 不再只是簡單的 API 轉發器，它已經演變為關鍵的「AI 控制平面」。選...

Day 2

2025-09-16

1408

0

30 天帶你實戰 LLMOps：從 RAG 到觀測與部署系列

Day02 - 企業知識庫 RAG 系統設計：從需求拆解開始

🔹 前言通常工程師們在接到新任務的時候會由 PM (Product Manager) 產生 PRD。今天，我們也要照這個流程，先來釐清「為什麼」要做這個專案，...

Day 18

2025-10-02

1402

0

30 天帶你實戰 LLMOps：從 RAG 到觀測與部署系列

Day18 - 用 FastAPI 實作 LLM API Gateway：驗證、限流、觀測與實務選型

🔹 前言經過前面系列的文章，我們已經從零搭建出一條完整的 RAG Pipeline ，目前具備以下能力：文件清洗與 Chunking 把原始文件整理成乾...

Day 18

2025-10-01

1401

0

解鎖API超能力：我的30天Kong可觀測性與管理實戰之旅系列

Day 18 : Kong 的認證(AuthN)與授權(AuthZ) - 1

認證(AuthN)與授權(AuthZ) 在Day 4的時候，筆者說明過有關於使用API Key的方式來保護後端API Provider的方式。同樣的也在Day...

團隊邦邦不邦邦

Day 16

2025-09-30

1385

0

初探 LLM 可觀測性：打造可持續擴展的 AI 系統系列

【Day 16】LLM 應用的交互模式：同步、非同步與串流架構解析

前言在建構基於大型語言模型（LLM）的智能助手時，系統需要處理從簡單問答到複雜的 Agent 工作流（如多步驟推理、工具調用和跨代理協作）等不同任務。隨著系...

熱門文章

熱門系列

鐵人選手

工商時間