今天要從dashboard來看 token消耗量 與對話量
這兩個可以從CES原生的metric取得
另外則是在bff的 /query /stream 補上結束時的audit log
_audit("INFO", "query_success"/"stream_success", latency_ms=..., session_id=...)
_audit("ERROR", ...)
D23 的 _audit() 目前只記錄「發起請求」和幾種拒絕情境,沒有記錄「結果」,所以現在完全算不出成功率。CX Agent Studio 內建的 Conversation Outcomes 只看得到「Agent 有沒有答對問題」,看不到 BFF 這層自己的失敗(認證過期、rate limit、WebSocket 斷線)。這兩者互補,缺一都不完整——這是「系統可用性」跟「Agent 回答品質」兩個不同維度,都要顧到。
今天的更動 就可以在gcp的monitoring看到
BFF 成功/失敗次數、BFF Latency P50/P99、CES Token 消耗量、CES 對話數
四張圖