當採用ces agent (vertex AI agent builder)後 很多RAG要自己優化的東西 像是search metadata, session params, function call 都已經被平台處理了

不過還是有些agent在使用上的問題需要優化

以我當前的agent設計 使用者進來後會去到root agent進行意圖判斷

是網路安全的就去到security agent, 其他閒聊則是general agent
general agent是依靠LLM的知識在進行問答就和去找gemini聊天一樣
而security agent 則是會查詢我提供的知識庫 來回答問題

但實際上會遇到 使用者打招呼後 從root-agent > general agent後就再也去不了security agent的狀況

這時候有幾種選擇

1. 去改general agent, 判斷和網路安全相關時導去 security agent
2. 判斷與閒聊無關時 結束session
3. 判斷與閒聊無關時 把需求轉回去root agent

這些都是開發上的歷程
1的做法擴展性不好 假如今天有多個sub-agent, 變成每個agnet都要下判斷 維護起來也麻煩
2 結束session 對話就結束了 體驗上不對
最後選擇3, 把當前問題帶回去root agent重做意圖判斷

如此就成功做到general agent也可以handoff 去security agent

遇到第二個問題是在security agent, 也會不查資料直接用LLM來回覆

雖然以owasp來說 確實LLM的回答也不錯 不過應該也會有語言模型資料不足以回答需要優先採用準備的資料, 像是如果今天再回答各家銀行信用卡的問題, 還是用自家維護的faq會比較準確

這時後就要去改security agent的instruction, 修改taskflow, 要求優先參照tool的內容(向量化的gcs)

如此就可以優先參考準備好的資料