簡介
雖然多數的 Local LLM 不會像 ChatGPT 一樣高達 175B 的參數量,但即便模型只有 7B, 13B,在只有一兩張 3090, 4090...
今天來介紹RAG (Retrieval Augmented Generation),最早是由Meta發布https://ai.meta.com/blog/ret...
前言
學習率 ( Learning Rate ) 是梯度下降優化算法中的一個重要 超參數,它決定了在每一步更新模型參數時,參數應該調整多少。學習率的選擇對於優化...
今日學習重點
TorchText是PyTorch生態系統中的一個函式庫,它的主要目的是為了簡化文字資料的處理與NLP模型建構的過程,不過該函式庫基於PyTorc...
前言
終於來到我們這個系列的最後一個階段啦~今天的主要內容是教你如何運用RLHF與QLoRA來調整這些龐大的語言模型。在這個部分裡,如果你在網路上查詢資料,可能...
到目前為止,在我們第一篇介紹 LangChain 的文章中,已經為大家展示了如何利用 ConversationChain 快速建立一個具有基本記憶功能的對話機器...