iT邦幫忙

2025 iThome 鐵人賽

DAY 25
0

前言

今天先簡單說明如何建立基礎的 LLM 監控環境,我們先安裝以下:

  • 🔥 Prometheus — 收集並儲存指標 (metrics)
  • 🚨 Grafana — 可視化與告警系統

🔥安裝prometheus

1. 下載
前往下面官網下載,選擇您的OS系統
prometheus

2. 安裝
下載後解壓縮,可以看到下圖的各項檔案,請點選prometheus.exe安裝
https://ithelp.ithome.com.tw/upload/images/20251009/20178499v3sW1Io45J.jpg

3. 驗證安裝
打開瀏覽器訪問:http://localhost:9090
https://ithelp.ithome.com.tw/upload/images/20251009/20178499N3PEP4rgx5.jpg

看到上圖即完成Prometheus的安裝了!

🚨安裝Grafana

1. 下載
前往下面官網下載
Download Grafana
https://ithelp.ithome.com.tw/upload/images/20251009/20178499e6zN3soP3N.jpg

2. 安裝
點選**Windows Installer(64 Bit)**下載,並執行下載後的檔案
安裝完成後請進入powershell(記得使用管理員權限)

# 啟動服務
net start grafana

3. 驗證安裝
打開瀏覽器訪問:http://localhost:3000

預設帳號:admin
預設密碼:admin

系統會要求您立刻改密碼,改完密碼後就能進入dashboards,看到下面的圖片即代表您安裝成功。
https://ithelp.ithome.com.tw/upload/images/20251009/20178499etsuGzuEDw.jpg

📌小結

工欲善其事,必先利其器! 今天我們先把要安裝好的工具都先準備好,讓接下來的操作順利!!


上一篇
Day 24: 打造 RAG 系統監控基礎:Prometheus 、 Grafana以及LangSmith
下一篇
Day 26: LLM 監控實作:用 LangSmith 建立模型追蹤與效能分析
系列文
從 RAG 到 Agentic RAG:30 天打造本機智慧檢索系統26
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言