iT邦幫忙

optimum相關文章
共有 1 則文章
鐵人賽 AI & Data DAY 15
LLM 學習筆記 系列 第 15

技術 LLM Note Day 15 - ONNX & ONNX Runtime

簡介 ONNX Runtime (ORT) 與其他推論框架相比,是個相對古老的框架。但是他的泛用性相當高,可以適用於幾乎任何模型上。而 ORT 不只專注在推論上...