使用LLM(大語言模型) 以及 RAG (Retrieval-augmented generation) 製作在地端的客製化中文聊天機器人。不使用微調技術,不需要大量GPU, 在你的電腦就可以做了。此聊天機器人可以界定他的回答範圍,藉由提供文檔資料,增進機器人在某些領域的知識能力,並使用RAG大幅降低大語言模型的幻覺問題。
想像你有一家公司,公司內部有成千上萬的資料,在多個不同的資料儲存處,例如Google Drive, One Drive, Drop Box, Confluenc...