1. 介紹各種LLM platform的應用( eg. Dify、AnythingLLM、flowise等)
2. API 串接、AOAI 、 Gateway訪問AOAI
2. 如何優化LLM的回答
3. 地端的LLM部署方式(Ollama)
4. 開發LLM框架 (LangChain)
4. RAG 種類及方法(Naive 、 Advanced)
5. RAG評估指標
上一回提到了Retriever有許多的方法,現在就讓我來一一介紹吧 1. Vector Store-Backed Retriever 使用說明:這個retrie...
今天要介紹剩下的5個retriever方法啦!再依照自己的需求選擇合適的retriever方法! 6. Long-Context Reorder 使用說明:這個...
RAG (Retrieval-Augmented Generation,檢索增強生成) 是一種將檢索與生成結合的技術,用於增強生成模型的能力,特別是在需要從大...
終於進到 Naive RAG 了!接下來就是讓我們來仔細介紹吧 Naive RAG 是一種基礎版本的檢索增強生成方法,它不涉及複雜的檢索技術或生成模型調整,而...
進階式?? 那當然就是 Naive 版的結果不夠好,所以才會有Advanced的版本囉!接下來將介紹幾種改良版的 也就是被統稱為Advanced RAG的版本囉...
終於要到了尾聲,接下來要介紹的是怎麼去評測RAG這邊參考了一些文獻,自己整理出的幾項標準與工具! 除了上述,還有許多種的評估指標 BLEU (Bilingu...
Ragas介紹 RAGAS(Retrieval-Augmented Generation Assessment System)是一個專門用來評估RAG(Ret...
終於來到最後一個part啦準備要來介紹的是目前市面上的一些GAI平台,今天要介紹的是我們鼎鼎大名的發哥,聯發科所開發的GAI平台 "達哥"...
Ollama介紹 Ollama 是一款專為運行和管理各種機器學習模型而設計的工具。其核心功能是通過簡單的命令行操作或 REST API 來下載、部署和執行機器學...
終於進到尾聲啦,讓我們直接切入正題吧! Anything LLM Anything LLM 是一個專注於部署和管理大型語言模型的平台。它的設計具備靈活性和可擴展...