iT邦幫忙

鐵人檔案

2024 iThome 鐵人賽
回列表
生成式 AI

從Azure雲端服務架構入門,在本地端結合RAG&LLM打造專屬的聊天機器人。 系列

筆者在2023年下半年曾經使用Azure雲端服務和OpenAI API開發過企業內部的聊天機器人,鑒於近年來GenAI應用技術更新快速,每個當下都是最好的紀錄時機,決定在2024鐵人賽中,挑戰在資料不上雲、不使用付費服務的情境下,於本地端啟用能自己餵文件打造專屬知識庫的聊天機器人。

文章適合初次踏入LLM應用的開發者,以及好奇聊天機器人背後運作原理的所有人。預計先介紹Azure於github公開的demo code,來認識雲端服務的運用以及聊天機器人架構。接著,便開始紀錄初次嘗試以開源免費資源打造地端聊天機器人的過程,歡迎大家留言提供建議,共同參與這個挑戰。

鐵人鍊成 | 共 30 篇文章 | 10 人訂閱 訂閱系列文 RSS系列文 團隊資料工程師甘苦談
DAY 11

Part1: Azure聊天機器人原理-前後端框架React&Quart

▋Azure聊天機器人實例 上一篇我們提到了,在Azure聊天機器人有提供介面讓我們可以設定參數。要有這樣的網站介面讓大家跟聊天機器人交流、設定機器人背後使用...

2024-09-25 ‧ 由 Harper 分享
DAY 12

生成式AI講座心得:用生成式AI賦予數據分析的新用法

▋番外篇:數創實驗室講座心得 今天是番外篇,9/25剛聽完由數創實驗室所舉辦的生成式AI講座,午夜時間一到隔日忍不住馬上和大家分享這場講座的心得。講座邀請到兩...

2024-09-26 ‧ 由 Harper 分享
DAY 13

Part1: Azure聊天機器人原理-喚起聊天機器人

▋Azure聊天機器人實例 簡介了Azure聊天機器人使用的前後端框架React和Quart之後,今天我們來聊聊如何運作這些程式碼來喚起聊天機器人吧。 啟用步...

2024-09-27 ‧ 由 Harper 分享
DAY 14

Part1: Azure聊天機器人原理-架構回顧

▋Azure聊天機器人實例 從Day2初次看到這張Azure聊天機器人架構圖,到現在經過了各種層面的認識之後,重新再看一次這張圖大家可能已經有不同的感想了。今...

2024-09-28 ‧ 由 Harper 分享
DAY 15

Part1: Azure聊天機器人原理-心得&小結

▋Azure聊天機器人 回顧了聊天機器人的架構之後,有些人可能會真的想要實作,但在這個系列文的後半段會尋找其他免費資源來做實作的部分,所以今天就和大家用個優缺...

2024-09-29 ‧ 由 Harper 分享
DAY 16

Part2: 地端實作聊天機器人-前言

▋前言 介紹完了Azure聊天機器人之後,為什麼不直接用Azure實作就好呢,答案很簡單,想勤檢持家,保持低成本。所以從今天開始,不只是連續發文挑戰,還是個地...

2024-09-30 ‧ 由 Harper 分享
DAY 17

Part2: 地端實作聊天機器人-開源聊天機器人框架

▋尋找開源聊天機器人框架 確定好實作的目標後,今天開始來尋找開源免費的資源吧,目標是gitbub中的RAG聊天機器人,從星星數較高來評估(較多人點讚的概念):...

2024-10-01 ‧ 由 Harper 分享
DAY 18

Part2: 地端實作聊天機器人-認識Dify

▋Dify 雖然已經決定使用Dify這個開源框架,但初次接觸還是有點陌生,今天就從Dify的官網和github多查點資料來認識它吧。 簡介 Dify是一個開源...

2024-10-02 ‧ 由 Harper 分享
DAY 19

Part2: 地端實作聊天機器人- git clone

▋將程式碼下載到本地開發環境 確認GitHub專案的License授權條款 在git clone之前,複習一下我們在Part1曾經提到的好習慣:使用任何git...

2024-10-03 ‧ 由 Harper 分享
DAY 20

Part2: 地端實作聊天機器人-開發環境

▋開發環境 上一篇我們直接將程式碼git clone下載到開發環境,今天要來聊聊,這個所謂的開發環境,到底有什麼要求,並提供一些關鍵字,讓大家能有所參考,建置...

2024-10-04 ‧ 由 Harper 分享