到昨天我們的RAG、Agent、以及監控都做完了基本介紹,接下來要介紹一下最終的專案全貌。
筆者使用簡單的範例,在Qdrant裡面起了兩個collection,一個是在石虎相關的研究資料,一個是草鴞相關的研究資料,並將兩個collection的retrieval功能包裝成tool來讓MRKL系統調用,我們的目標是MRKL可以自己去判斷,然後調用正確的collection來找回資料。
可以看到我們成功觸發MRKL的作用:
到這邊,我們已經用很輕量的llama-3-taiwan-8b-instruct推動一個AI Agent了!
明天最後一天我們再把所有東西整理起來吧! 謝謝讀到這邊的大家!!