針對系統架構設計因應系統開發前我們的習慣都會先畫出架構圖,才知道會知道先建置什麼雲端元件,所以我這裡大概先敘述流程,後續元件都會有詳細的介紹!
以下架構圖上菜啦!
流程大概可以看到有很多個元件,從左到右 User進了畫面後去使用聊天及上傳檔案的功能,VertexAI就會是LLM的使用平台,上傳的話是使用Cloud Storage並且出發後直接執行,indexing的動作!這部份很重要因為就不會影響到我們正在使用系統的Loading問題!最後資料都是會丟進Cloud SQL裡也就是我們indexing或者是VertexAI所需參考的資料來源。
從這裡可以看出來我們後續所有的建置都是基於GCP雲端服務上,可以讓大家去了解,從request後的整個流程大致上會是怎麼走的!
接著後續幾天都會去介紹及實作如何使用這些平台及建置!