2024 iThome 鐵人賽
Share More Gain More
生成式 AI
選手 80 文章 1624
Day 0
2024-09-23
4949
0
今天練習是利用Hugging Face API Token來做翻譯文本的練習,跟昨天練習不同的是,API 能夠直接調用 Hugging Face 提供的翻譯模型...
Day 2
2024-08-16
4937
0
這裡以安裝可攜的 Windows版本的comfyui為例子, 因為可攜版有預裝相關的python套件,可以節省不少時間.使用者最好有一張 Nvidia 8GB...
Day 29
2024-09-30
4934
0
前言 接續昨天的監控介紹和 Day24 的實作篇,今天就要來介紹如何使用開源工具Prometheus和Grafana來監控vLLM的一些硬體與推理指標,最後實作...
Day 4
2024-08-08
4867
0
前情提要 上一篇成功用 Node 和 Python 把 Open WebUI 給 Run 起來,很順利的使用 UI 介面跟語言模型溝通,那今天就要來繼續玩看看...
Day 26
2024-09-27
4848
0
前言 前面 Day7 有講過超級電腦(資料中心)和IaaS平台之間的關係 🛠️,在 Day9 提到了local LLM和雲端LLM服務的差異 ☁️⚖️,而 Da...
Day 15
2024-09-16
4840
0
LlamaParse📄 LlamaParse 是LlamaIndex所開發的另一項服務,主要用於處理/解析文本數據,並提供OCR、輸出格式轉換(Markdown...