iT邦幫忙

Penut Chen
iT邦研究生 5 級 ‧ 點數 1589
研發工程師 國立臺灣海洋大學資訊工程學系學士班資訊工程學系
30653
累計瀏覽數
站內簡訊 追蹤

Penut Chen 的發文列表 109

0 Like 0 留言 380 瀏覽

技術 為什麼要寫這篇系列文呢？

16th鐵人賽
2024-09-15 由 Penut Chen 分享
0 Like 0 留言 2937 瀏覽

技術 在 Windows 上編譯 llama.cpp 專案

llm llama.cpp windows cuda msvc
2024-08-03 由 Penut Chen 分享
0 Like 0 留言 1294 瀏覽

技術 鐵人賽新書出版《LLM 大型語言模型的絕世祕笈：27 路獨步劍法，帶你闖蕩生成式 AI 的五湖四海》

llm note
2024-08-03 由 Penut Chen 分享
1 Like 0 留言 2191 瀏覽

技術 在 Colab 上無痛產出 llama.cpp gguf 量化模型

colab llama.cpp gguf llm quantization
2024-07-25 由 Penut Chen 分享
2 Like 0 留言 2644 瀏覽

技術 Groq + Llama 3.1 + SerpApi 免費仔光速打造簡易 RAG 系統

llm llama 3.1 groq serp rag
2024-07-24 由 Penut Chen 分享
3 Like 0 留言 2357 瀏覽

技術 計算 LLM 的 Perplexity 困惑度

llm perplexity ppl evaluation
2024-07-06 由 Penut Chen 分享
2 Like 0 留言 1321 瀏覽

技術 使用 HF Transformers 對 KV 快取量化

llm transformers kv cache quantization huggingface
2024-06-29 由 Penut Chen 分享
2 Like 0 留言 2451 瀏覽

技術 LLM Note Day 33 - AutoAWQ

15th鐵人賽 awq autoawq llm quantization
2023-12-05 由 Penut Chen 分享
0 Like 0 留言 2015 瀏覽

技術 LLM Note Day 32 - AutoGPTQ

15th鐵人賽 gptq quantization autogptq llm
2023-10-19 由 Penut Chen 分享
0 Like 0 留言 2787 瀏覽

技術 LLM Note Day 31 - Flash Attention

15th鐵人賽 flash attention llm
2023-10-18 由 Penut Chen 分享
Penut Chen的鐵人檔案
Penut Chen的收藏
Penut Chen的追蹤
Penut Chen的Like
Penut Chen的紀錄
Penut Chen的訂閱列表