iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
Software Development

LLM infra 學習日記 系列

作者學習LLM infra的日記,預計會涵蓋各種LLM inference, data, RL 相關開源專案的探索。

參賽天數 1 天 | 共 1 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文 團隊源來適愛開緣
DAY 1

LLM Infra 到底在做什麼?

平常在看 vLLM、SGLang、PagedAttention、speculative decoding,或是一些 CUDA kernel 的時候,常常會有一種...

2026-08-17 ‧ 由 ryankert01 分享