HuggingFace 是一個更正式的模型下載平台,並提供多種模型選擇,也讓開發者可以尋找其他人 fine-tune 過的模型。
Model Hub
首先,進...
當我們談到 RAG 應用的時候,除了向量化之外,另一個重點就是向量資料庫,與傳統資料庫不同,向量資料庫是專門為了高維度資料以及相似度搜尋而存在的,目前市場有許多...
前言
先前在 Day10 講過了針對計算資源的分散式架構Ray ⚙️,也在 Day26 提到多個server組成cluster的概念 🌐,在這些clusters...
這裡以安裝可攜的 Windows版本的comfyui為例子, 因為可攜版有預裝相關的python套件,可以節省不少時間.使用者最好有一張 Nvidia 8GB...
剛學習LLM的時候,只會知道要用GPU,因為他的平行計算能力比較快。不過真的只有這樣嗎?
(圖源: 自製)
在運算的過程中,最主要會消耗的是大量的記憶體(資料...
前情提要
昨天我們實作自定義的函數透過 LCEL 成功開啟一個 AI 根據我們需求所寫出的網頁,也實作了幾個 LangChain 的 Runnable 元素。那...