iT邦幫忙

鐵人檔案

2024 iThome 鐵人賽
回列表
生成式 AI

RAG自己來系列:客服機器人 系列

在本地語言模型越來越壯大的今天,語言模型「本地化」勢必成了個人與企業的趨勢,本系列將教大家如何從部屬自己的本地語言模型與 RAG 技術,並且將其利用在自己的專案中。

鐵人鍊成 | 共 30 篇文章 | 4 人訂閱 訂閱系列文 RSS系列文 團隊NUTC imac
DAY 11

[Day 11] 介紹 Gradio -- 應用篇

OK,昨天的介紹比較像是試水溫(不要打我),今天來講講幾個元件的互動效果 Button 屬性 名稱 型別 value str | Callable...

2024-09-19 ‧ 由 iervn6341 分享
DAY 12

[Day 12] 圖形化文字生成工具

有了前端的工具,那也不能少了能幫助我們讀取並且應用的文字生成工具 text-generation-webui,這專案前端頁面也是使用 Gradio 去建構的 安...

2024-09-20 ‧ 由 iervn6341 分享
DAY 13

[Day 13] 文字生成「服務」

前一天講了 text-generation-webui,今天來講另一個也是拿來做文字生成工作的工具,Ollama 這次為何要使用這個呢,其原因也是我覺得 Ol...

2024-09-21 ‧ 由 iervn6341 分享
DAY 14

[Day 14] 介紹文字生成框架 - Langchain

LangChain 是開放原始碼的架構,可根據大型語言模型 (LLM) 打造應用程式。LLM 是針對大量資料預先訓練的大型深度學習模型,可以對使用者查詢生成回...

2024-09-22 ‧ 由 iervn6341 分享
DAY 15

[Day 15] Langchain - Prompt & LLM

在使用 LLM 工具前,一定都要給模型一個「指示」,這個指示會影響模型最終的輸出,例如要求模型將文字輸出格式限制成 Json 或者 Markdown 語法,或者...

2024-09-23 ‧ 由 iervn6341 分享
DAY 16

[Day 16] Langchain - Parsers & Memory

Parser 若想要將模型的輸出轉換成程式可用的資料型態,我們可以用 Langchain 的 StructuredOutputParser 的方法去幫我們達成,...

2024-09-24 ‧ 由 iervn6341 分享
DAY 17

[Day 17] [複習篇] Day10 ~ Day16 周回複習

「When the going gets tough, the tough get going.」 來到第 17 天,不免俗也讓自己休息一下,遇到挑戰也不要灰心...

2024-09-25 ‧ 由 iervn6341 分享
DAY 18

[Day 18] 設計上傳文件頁面

前面的單元都屬於小兒科,再來就得認真刻我們的前端頁面了 這邊要先來刻的是,RAG 的核心 -- 資料檢索,所以我們要先來刻處理文件的頁面 首先是主頁的部分,我們...

2024-09-26 ‧ 由 iervn6341 分享
DAY 19

[Day 19] 設計聊天頁面

前一天將檔案上傳上向量資料庫後,我們需要有一個聊天的頁面,為此我們須需要額外的前端頁面 至於設計嘛,先能用就好,總之先做一個像聊天室的介面吧 ./chat_...

2024-09-27 ‧ 由 iervn6341 分享
DAY 20

[Day 20] 結合分頁功能

說實在,若想使用上傳檔案以及聊天功能,一直改程式碼也有點白癡,所以這時可以用 Gradio 的分頁功能,也就是 Tab,其具體實現方法就是把寫好的不同頁面,整合...

2024-09-28 ‧ 由 iervn6341 分享