牧場主今日工作
各位未來的數位牧場主們,歡迎來到「牧場主的 K8s 放牧日記」!今天是我們開始放牧之旅的第一天,我要跟大家分享為什麼我決定從一個單純的 K8s...
🔹 前言
昨天 (Day 6) 我們第一次跑出 Minimal RAG QA Bot,流程是:
使用者提問 → Embedding → 檢索 → LLM 回答。...
● 前言
從 Day 24 到 Day 28,我們陸續談了 SAST、依賴掃描、容器掃描、DAST、Secrets 管理。今天要把這些安全檢查收斂起來,組合成一...
● 前言
▪ 在前一篇,我們將 效能測試 整合至 CI Pipeline(GitHub Actions),並利用 Locust 產出壓測報表。到目前為止,已經涵...
概述
在上一篇文章中,我們深入探討了 LLM 應用的獨特性。它是一個機率性的、以語義為核心的「黑盒子」。我們意識到,傳統的監控手段已無法應對其在遙測、輸出、成...
🔹 前言
昨天我們談到 Cache 與回應加速,解決了「同一問題反覆查詢」造成的延遲與成本浪費。
但 LLM 應用還有另一個大挑戰:
👉 模型與知識庫版本要怎麼...