iT邦幫忙

bitsandbytes相關文章
共有 1 則文章
8 Like 0 留言 16747 瀏覽
鐵人賽 AI & Data DAY 14
LLM 學習筆記 系列 第 14 篇

技術 LLM Note Day 14 - 量化 Quantization

簡介 量化 (Quantization) 是我們這些平民 LLM 玩家最好的夥伴，一般模型在訓練時多使用 32-Bit 或 16-Bit 的浮點數，即便是 7B...

Penut Chen ‧ 2023-09-29 ‧團隊消波塊上的海洋貓貓
iThome鐵人賽
參賽組數
476 組
團體組數
18 組
累計文章數
4963 篇
最後報名日
9/15
iT+看影片追技術 看影片追技術 看更多
熱門tag
15th鐵人賽 16th鐵人賽 13th鐵人賽 14th鐵人賽 17th鐵人賽 12th鐵人賽 11th鐵人賽 鐵人賽 2019鐵人賽 javascript 2018鐵人賽 18th鐵人賽 python 2017鐵人賽 windows php c# linux windows server css
熱門問題
熱門回答
熱門文章
IT邦幫忙