在我們之前的文章中,無論是摘要、例句推薦等,都是用固定的資料來模擬各種情境。但現實世界的應用遠比這複雜。接下來的幾篇文章,我們將帶領大家更深入地了解如何處理真實...
全端 LLM 應用開發-Day28-Langchain 的 Memory
還記我們在第 25 天時,用了 ConversationalRetrievalChai...
簡介
要訓練一個模型,首先要有資料。不僅要有很大量的資料,也要有品質很好的資料。資料的品質包含:文句是否通順、格式是否合理、內容是否偏頗、資訊是否有害等等。品質...
簡介
最近 Hugging Face Transformers 整合了 Flash Attention 2,可以減少記憶體消耗並提昇模型運算的速度,且使用方式非...
提要
前言
訓練LoRA途徑
LoRA的訓練
前言
今天我們介紹 LoRA 訓練相關的內容,LoRA 是一種微調模型的方式,我們將學習訓練 Lo...
全端 LLM 應用開發-Day19-用 Weaviate 儲存向量資料
昨天我們完成 Milvus 的基礎使用了,接著我們來介紹另一款開源的向量資料庫,今天要介...