初探 LLM 可觀測性：打造可持續擴展的 AI 系統 系列

這是一個從我個人觀察與實踐延伸的心得系列。最初只是想做一個 Grafana Assistant 來改善使用體驗，但隨著深入 LLM 應用，我逐漸意識到：這些系統同樣需要可觀測性，只是方式與傳統服務截然不同。過去的可觀測性 1.0 與 2.0，關注在基礎設施、微服務與指標。
而在 LLM 世界裡，核心卻是模型、提示、評測迭代與使用者互動。這意味著我們需要新的觀點與實踐來理解 LLM 可觀測性。在這個系列中，我會從理論、實務、生態與架構多個層面切入，探索如何打造可持續擴展的 AI 系統。就讓我們一起看看，傳統可觀測性與 LLM 應用的交會，能激盪出什麼樣的火花！