前情提要
昨天我們統整了截至目前的一些工具和技術,也實作了一個 Memory 搭配 RAG 功能的聊天機器人。算是一個小小目標的達成,那接下來就要往更進階的部分...
前言
在 Day6 的時候我們提到當context length越長,KV cache也會越大,分配KV cache也成為一個挑戰的工作 🧠。在 Day12 學...
進階式?? 那當然就是 Naive 版的結果不夠好,所以才會有Advanced的版本囉!接下來將介紹幾種改良版的 也就是被統稱為Advanced RAG的版本囉...
前言
在軟體開發領域,AI 正逐漸成為不可或缺的工具,是否曾經遇到過需要迅速撰寫程式碼,但時間不夠或對某些語言不熟悉的情況?對於開發人員來說,AI 不只是輔助工...
每天的專案會同步到 GitLab 上,可以前往 GitLab 查看,有興趣的朋友歡迎留言 or 來信討論,我的信箱是 nickchen1998@gmail.co...
▋用Ollama部屬地端LLM模型
Ollama是個開源的模型管理服務,可以讓我們可以透過指令,快速地將模型部屬成可用的服務。進到Ollama官網就可以看到可...