iT邦幫忙

2025 iThome 鐵人賽

DAY 6
0

目標先講清楚:
這篇聚焦 LangSmith 設定與使用體感;同場加映兩個開源替代(Langfuse、OpenLIT)與 LiveKit Dashboard 的極簡介紹。


為什麼使用 LangSmith進行監控?

因為 LangSmith 跟 LangGraph 的相容性非常高:官方明說「只要設幾個環境變數就能自動追蹤 LangGraph 工作流」,不用大改程式。你會拿到每次呼叫的完整 Trace,包含節點、訊息與工具互動,後續擴充能力(RAG、Tools、記憶)時也能一路觀測。


三種監控路線(我怎麼選)

路線 特色 我實測的優缺點(簡短)
LangSmith(雲) LangChain/LangGraph 一線整合,Trace 與 Dashboard 開箱即用 優點:設定最少、與 LangGraph 深度對齊、可顯示 Token 與成本估算、Prompt 與輸出可視化。缺點:只有雲端版本。([LangChain Docs][2])
Langfuse(開源、自架) OSS、可自託管,觀測/評估/Prompt 管理一應俱全 優點:本地部署、開源自由度。注意:呈現方式與預設視覺化偏工程取向,團隊可能需要自行調整看板。
OpenLIT(開源、自架) OpenTelemetry 原生,覆蓋 LLM、向量庫、GPU 優點:一條指令就能打點,OTel 生態相容。注意:官方文件目前未標示「租戶(tenant)/多租戶」管理能力,若要多團隊隔離需自行規劃。([docs.openlit.io][4])

我這輪選 LangSmith:最少變更就能把 LangGraph Agent 「看得一清二楚」。


一步到位的 .env 範例(直接可用)

把 Agent 換成 LangGraph 後,只需加上這 4 個變數;重啟服務,Trace 自動上傳,其他程式不用改

dotenv
# LangSmith 基本追蹤設定
LANGSMITH_TRACING=true
LANGSMITH_API_KEY=lsm_xxx_your_key_here
LANGSMITH_ENDPOINT=https://api.smith.langchain.com
LANGSMITH_PROJECT=project_xxx

# (可選)你也能走「程式內設定」,但用環境變數最單純
# 參考:Trace without env vars
  • 以上鍵值為 LangSmith 官方建議(啟用追蹤、API Key、端點、專案名)。若不便設環境變數,也可走程式內設定

打開 LangSmith Dashboard,我會先看什麼?

  • Token 與成本估算:可依模型定價表,自動彙總「提示 Token / 完成 Token / 總成本」;適合做費用守門與回歸檢查。
  • Prompt 與輸出:單筆 Trace 會顯示 System Prompt、Human Prompt、Model Output 等訊息,排查行為差異或 Prompt 污染非常直觀。
  • 工作流 / 節點互動(LangGraph):往後我會用 Dashboard 檢視 agent node ↔ node 的遞移、Tool 呼叫狀態、每步的 input context,評估瓶頸點與錯誤模式。官方也有教學示例(含 LangGraph + LangSmith)。

下圖是我這次的觀測畫面(LangSmith Trace 與成本/延遲摘要):
LangSmith Trace 範例


LiveKit Dashboard 介紹

LiveKit 自帶雲端儀表可看連線與用量健康度
https://ithelp.ithome.com.tw/upload/images/20250920/201785682sU2Z8nNdP.png

  • Overview:連線成功率、平台占比、上下行量與分鐘數,拿來做健康巡檢與容量預估。
  • Sessions:逐房間/參與者的會話時間線(搭配錄製/轉出可回溯)。
  • Agents:監看代理狀態、錯誤率與版本(方便 A/B 與回滾)。
  • Telephony integrations:一鍵把 PSTN/SIP 接到房間,還支援 DTMF、REFER。
  • Ingresses / Egresses:RTMP/WHIP 匯入與錄製/導出(HLS/MP4、RTMP 推流)。][10])
  • Sandbox / Settings / Billing:範本測連線、金鑰與 RBAC、用量與成本監看。

目前只是使用LiveKit監控房間人數。


下一步(Day 7 預告)

接下來進入到結構化輸出的技巧介紹部分,開始搭配Google- agentic Design Patterns,去修改Agent的部分


參考資源


上一篇
Day 5|GDG Agentic AI Developer Day 2025 分享
下一篇
Day 7|Agent Design - Prompt Design - 多代理人設計的必要性(1/5)
系列文
從讀書筆記到可落地 AI:LangChain、LangSmith 與 Agent 工具 30 講11
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言