iT邦幫忙

qlora相關文章
共有 1 則文章
鐵人賽 AI & Data DAY 25
LLM 學習筆記 系列 第 25

技術 LLM Note Day 25 - PEFT & LoRA 訓練框架

簡介 在單張消費級顯卡上全微調 (Fully Fine-Tune, FFT) 一個 7B 參數量以上的模型幾乎是不可能的,這時神秘的笑臉再次出手拯救了我們。由...