iT邦幫忙

鐵人檔案

2024 iThome 鐵人賽
回列表
生成式 AI

LLM 應用、開發框架、RAG優化及評估方法 系列

1. 介紹各種LLM platform的應用( eg. Dify、AnythingLLM、flowise等)
2. API 串接、AOAI 、 Gateway訪問AOAI
2. 如何優化LLM的回答
3. 地端的LLM部署方式(Ollama)
4. 開發LLM框架 (LangChain)
4. RAG 種類及方法(Naive 、 Advanced)
5. RAG評估指標

鐵人鍊成 | 共 30 篇文章 | 17 人訂閱 訂閱系列文 RSS系列文
DAY 21

Day21 GAI爆炸時代 - Retriever 方法詳細介紹

上一回提到了Retriever有許多的方法,現在就讓我來一一介紹吧 1. Vector Store-Backed Retriever 使用說明:這個retrie...

2024-08-28 ‧ 由 wow_ppwx 分享
DAY 22

Day22 GAI爆炸時代 - Retriever 方法詳細介紹

今天要介紹剩下的5個retriever方法啦!再依照自己的需求選擇合適的retriever方法! 6. Long-Context Reorder 使用說明:這個...

2024-08-29 ‧ 由 wow_ppwx 分享
DAY 23

Day23 GAI爆炸時代 - RAG 介紹

RAG (Retrieval-Augmented Generation,檢索增強生成) 是一種將檢索與生成結合的技術,用於增強生成模型的能力,特別是在需要從大...

2024-08-30 ‧ 由 wow_ppwx 分享
DAY 24

Day24 GAI爆炸時代 - Naive RAG 介紹

終於進到 Naive RAG 了!接下來就是讓我們來仔細介紹吧 Naive RAG 是一種基礎版本的檢索增強生成方法,它不涉及複雜的檢索技術或生成模型調整,而...

2024-08-31 ‧ 由 wow_ppwx 分享
DAY 25

Day25 GAI爆炸時代 - Advanced RAG 介紹

進階式?? 那當然就是 Naive 版的結果不夠好,所以才會有Advanced的版本囉!接下來將介紹幾種改良版的 也就是被統稱為Advanced RAG的版本囉...

2024-09-01 ‧ 由 wow_ppwx 分享
DAY 26

Day26 GAI爆炸時代 - RAG 評估方法

終於要到了尾聲,接下來要介紹的是怎麼去評測RAG這邊參考了一些文獻,自己整理出的幾項標準與工具! 除了上述,還有許多種的評估指標 BLEU (Bilingu...

2024-09-02 ‧ 由 wow_ppwx 分享
DAY 27

Day27 GAI爆炸時代 - Ragas介紹

Ragas介紹 RAGAS(Retrieval-Augmented Generation Assessment System)是一個專門用來評估RAG(Ret...

2024-09-03 ‧ 由 wow_ppwx 分享
DAY 28

Day28 GAI爆炸時代 - 聯發科 達哥& SUPERIOR API 平台

終於來到最後一個part啦準備要來介紹的是目前市面上的一些GAI平台,今天要介紹的是我們鼎鼎大名的發哥,聯發科所開發的GAI平台 "達哥"...

2024-09-04 ‧ 由 wow_ppwx 分享
DAY 29

Day29 AI爆炸時代 - Ollama 建置與內嵌python script設定

Ollama介紹 Ollama 是一款專為運行和管理各種機器學習模型而設計的工具。其核心功能是通過簡單的命令行操作或 REST API 來下載、部署和執行機器學...

2024-09-05 ‧ 由 wow_ppwx 分享
DAY 30

Day30 GAI爆炸時代 - Anything LLM & 完賽感言

終於進到尾聲啦,讓我們直接切入正題吧! Anything LLM Anything LLM 是一個專注於部署和管理大型語言模型的平台。它的設計具備靈活性和可擴展...

2024-09-06 ‧ 由 wow_ppwx 分享