iT邦幫忙

2025 iThome 鐵人賽

DAY 29
0

前言

到昨天我們的RAG、Agent、以及監控都做完了基本介紹,接下來要介紹一下最終的專案全貌。

架構

筆者使用簡單的範例,在Qdrant裡面起了兩個collection,一個是在石虎相關的研究資料,一個是草鴞相關的研究資料,並將兩個collection的retrieval功能包裝成tool來讓MRKL系統調用,我們的目標是MRKL可以自己去判斷,然後調用正確的collection來找回資料。

https://ithelp.ithome.com.tw/upload/images/20251013/20178499qQcAzNCXQN.jpg

簡單成果

https://ithelp.ithome.com.tw/upload/images/20251013/20178499h8Vr9ksHPn.jpg

可以看到我們成功觸發MRKL的作用:

  • Question: 草鴞在台灣遇到什麼保育問題?
  • Throught: 我需要找到關於草鴞在台灣的保育狀況的資訊
  • Action: search_grass_owl
  • Action input: "草鴞 保育"(輸入這兩個字進去qdrant做Retrieval)
  • Observation: 從 grass_owl 找到 3 個相關文檔:
  • Thought: :我已經找到關於草鴞在台灣保育問題的相關資訊。
  • Final Answer:
    來源: collection_grass_owl
    參考內容: 守護暗夜中的珍稀隱者:臺灣草鴞的保育挑戰與未來.pdf
    回答: 草鴞在台灣面臨的主要保育問題是族群數量極度稀少,生存環境受到嚴峻衝擊。主要威脅包括棲地破壞、外來入侵種植物排擠原生植物,以及人類活動對淺山生 態系造成影響。為了保護草鴞,不僅是為了保護一個物種,更是為了維護整個淺山生態系的平衡與永續。
  • Finished chain.

到這邊,我們已經用很輕量的llama-3-taiwan-8b-instruct推動一個AI Agent了!
明天最後一天我們再把所有東西整理起來吧! 謝謝讀到這邊的大家!!


上一篇
Day 28: LLM 監控實作:新增一個監控的功能,以streamlit為例
下一篇
Day 30: 寫完了卻沒寫完!
系列文
從 RAG 到 Agentic RAG:30 天打造本機智慧檢索系統30
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言