iT邦幫忙

vram相關文章
共有 1 則文章
0 Like 0 留言 85 瀏覽
鐵人賽 生成式 AI DAY 6
Local LLM infra & Inference 一部曲 系列 第 6 篇

技術 Day6 - 選擇適合你VRAM的模型

前言 傳統NLP模型比較小，只需要考慮compute bound的，但現在LLM模型很大了，基本上就是考驗memory bound的時代，這章將來介紹LLM與V...

母湯小精靈 ‧ 2024-09-07 ‧團隊為了AI而AI
iThome鐵人賽
參賽組數
555 組
團體組數
22 組
累計文章數
3839 篇
最後報名日
9/15
iT+看影片追技術 看影片追技術 看更多
熱門tag 看更多
15th鐵人賽 13th鐵人賽 14th鐵人賽 12th鐵人賽 11th鐵人賽 鐵人賽 2019鐵人賽 javascript 2018鐵人賽 16th鐵人賽 python 2017鐵人賽 windows php c# windows server linux css react 資訊安全
熱門問題
熱門回答
熱門文章
IT邦幫忙