iT邦幫忙

2025 iThome 鐵人賽

DAY 28
0
生成式 AI

智慧旅遊顧問--結合 LLM 與 RAG 架構的台灣旅遊資訊助手系列 第 28

【Day28】技術成長 - 我的 AI 開發之路

  • 分享至 

  • xImage
  •  

一、核心技術心法

API 整合的彈性:在串接 Google Maps 等外部服務時,最大的啟發是資料結構的規範化。無論 API 回傳的 JSON 多複雜,都必須將其轉換成 AI 模型能快速理解的簡潔格式,這減少了模型在解析數據上的認知負擔,提升了 Function Calling 的成功率。

Prompt 工程的重要性:LoRA 訓練生成的 QA Pairs 和 Function Calling 的指令,都是精準的 Prompt 工程。清晰、無歧義的指令是 AI Agent 成功的基石,它決定了模型的行為、語氣和工具使用的準確性。

二、最具啟發性的技術決策

在 RAG、LoRA 和 Function Calling 這三個核心技術中,將 RAG 和 Function Calling 結合成混合檢索是最具啟發性的。

  • RAG (FAISS):確保了我們對靜態、高價值的 CSV 知識掌握。

  • Function Calling:確保了我們能獲取即時、動態的外部資訊(天氣、路線)。

這種雙重檢索機制,讓 AI 導遊能夠應對各種複雜的查詢情境,這是開發完整 AI Agent 的關鍵流程:永遠不要只依賴模型的內部知識。

三、實戰建議

如果你也想開發一個功能完整的 AI Agent 專案,我的建議是:從最小可行產品 (MVP) 開始。先確認 RAG 能跑通,再加入 Function Calling,最後才進行模型微調。這種循序漸進的方法,能讓你更容易除錯和管理專案的複雜度。


上一篇
【Day27】總結 - 架構圖與技術回顧
系列文
智慧旅遊顧問--結合 LLM 與 RAG 架構的台灣旅遊資訊助手28
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言