iT邦幫忙

有瓜吃瓜
iT邦新手 5 級 ‧ 點數 258
3269
累計瀏覽數
站內簡訊 追蹤

有瓜吃瓜 的 Like 文章列表 34

2 Like 1 留言 10806 瀏覽

技術 LLM Note Day 16 - ggml & llama.cpp

15th鐵人賽 ggml llama.cpp llm inference
2023-10-01 由 Penut Chen 分享
3 Like 1 留言 3761 瀏覽

技術 LLM Note Day 17 - vLLM & Paged Attention

15th鐵人賽 vllm paged attention batch inference llm
2023-10-02 由 Penut Chen 分享
2 Like 0 留言 2932 瀏覽

技術 LLM Note Day 18 - Hugging Face Text Generation Inference

15th鐵人賽 tgi text generation inference llm inference
2023-10-03 由 Penut Chen 分享
2 Like 0 留言 1548 瀏覽

技術 LLM Note Day 19 - Offloading Inference

15th鐵人賽 offloading inference flexgen petals llm
2023-10-04 由 Penut Chen 分享
2 Like 0 留言 2885 瀏覽

技術 LLM Note Day 20 - 上下文學習 In-Context Learning

15th鐵人賽 in-context learning prompt engineering llm
2023-10-05 由 Penut Chen 分享
有瓜吃瓜的鐵人檔案
有瓜吃瓜的收藏
有瓜吃瓜的追蹤
有瓜吃瓜的Like
有瓜吃瓜的紀錄
有瓜吃瓜的訂閱列表