2024 iThome 鐵人賽
Share More Gain More
生成式 AI
選手 80 文章 1624
Day 18
2024-09-19
2980
0
前言 這一章將介紹 演算法層面最佳化 (Algorithm-level Optimization) ,這其中最知名的即為Speculative Decoding...
2024-09-07
2976
0
RAG 技術的現狀與挑戰 隨著大語言模型在 2027 年 8 月的進一步發展,檢索增強生成(RAG, Retrieval-Augmented Generati...
Day 13
2024-09-27
2946
0
Cursor 安裝與設定 因為 Cursor 是基於 VSCode 相同的底層框架,所以在安裝 Cursor 後可以直接匯入 VSCode 的 Profile...
Day 30
2024-09-06
2944
0
終於進到尾聲啦,讓我們直接切入正題吧! Anything LLM Anything LLM 是一個專注於部署和管理大型語言模型的平台。它的設計具備靈活性和可擴展...
Day 29
2024-09-30
2943
0
前言 接續昨天的監控介紹和 Day24 的實作篇,今天就要來介紹如何使用開源工具Prometheus和Grafana來監控vLLM的一些硬體與推理指標,最後實作...
Day 25
2024-08-25
2890
0
6-1 前言 OpenAI 對於 ChatGPT API 及 My GPTs 的佈局 OpenAI 目前對於 ChatGPT API 及 My GPTs 的佈...