iT邦幫忙

2024 iThome 鐵人賽

DAY 15
0
生成式 AI

AI的雲上漫遊系列 第 15

Day15 RAG雲端平台架構設計

  • 分享至 

  • xImage
  •  

針對系統架構設計因應系統開發前我們的習慣都會先畫出架構圖,才知道會知道先建置什麼雲端元件,所以我這裡大概先敘述流程,後續元件都會有詳細的介紹!

以下架構圖上菜啦!

https://ithelp.ithome.com.tw/upload/images/20240916/201060947mGBdeemwM.png

流程大概可以看到有很多個元件,從左到右 User進了畫面後去使用聊天及上傳檔案的功能,VertexAI就會是LLM的使用平台,上傳的話是使用Cloud Storage並且出發後直接執行,indexing的動作!這部份很重要因為就不會影響到我們正在使用系統的Loading問題!最後資料都是會丟進Cloud SQL裡也就是我們indexing或者是VertexAI所需參考的資料來源。

從這裡可以看出來我們後續所有的建置都是基於GCP雲端服務上,可以讓大家去了解,從request後的整個流程大致上會是怎麼走的!

接著後續幾天都會去介紹及實作如何使用這些平台及建置!


上一篇
Day14 GCP 平台基本介紹
下一篇
Day16 Vertex AI平台介紹
系列文
AI的雲上漫遊30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言