iT邦幫忙

2025 iThome 鐵人賽

DAY 27
0

一、系統架構

核心流程:

  • 前端 (Streamlit):作為使用者介面,接收提問。

  • Gemini 模型 (核心):處理提問,並根據指令決定下一步。

  • Function Calling (決策層):負責串接外部服務。當判斷為景點查詢時,呼叫 Google Maps API。當判斷為特定知識查詢時,呼叫 RAG (FAISS 知識庫)。

  • LoRA 微調 (優化層):Gemma 模型透過 LoRA 學習專屬知識,確保了回答的精準度與專業性。

環環相扣的架構,確保了 AI 導遊能同時具備即時資訊和專屬知識。

二、關鍵技術決策回顧

  1. 選擇 LoRA 微調:解決了 Gemma 模型缺乏專屬知識的問題,同時保持了訓練的低成本與高效率。

  2. 結合 RAG 與 Function Calling:RAG 負責查詢靜態的本地知識,Function Calling 負責獲取即時的外部資訊。這兩者的結合,讓 AI 的知識庫是動態且全面的。

三、專案突破點

最大突破在於成功地將複雜的 AI Agent 工作流整合到了單一的 Streamlit 應用程式中。展示了如何將多項 AI 技術(微調、檢索、工具使用)串聯起來,解決一個實際的旅遊應用場景。


上一篇
【Day26】程式碼精簡與整理
系列文
智慧旅遊顧問--結合 LLM 與 RAG 架構的台灣旅遊資訊助手27
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言