簡介
Hugging Face 🤗 Transformers 是訓練 Transformer 模型最知名的套件沒有之一,此套件收入了許多知名模型架構、訓練演算法...
前言
現在許多企業都不是從零開始訓練模型,而是使用大型企業提供的預訓練模型(pre-trained model)以實現企業自身的目標,而在這個步驟中,接著他們會...
簡介
vLLM 是來自 UC Berkeley 的 Woosuk Kwon 和 Zhuohan Li 所製作的推論框架,使用 Paged Attention 技...
全端 LLM 應用開發-Day26-用 Langchain 來做 PDF 文件問答
今天我們把昨天的程式碼整理一下,並且加上新功能:把 PDF 載入,然後產生...
前言
在Day 21:模仿遊戲.破解Linux之謎(Linux Enigma: Codebreakers Unleashed)中,你翻開那本《樹莓派的法則》...
全端 LLM 應用開發-Day29-Langchain 的 chain
我們目前已經過用了 ConversationalRetrievalChain,但是 La...