2024 iThome 鐵人賽
Share More Gain More
生成式 AI
選手 80 文章 1624
Day 29
2024-09-30
4249
0
前言 接續昨天的監控介紹和 Day24 的實作篇,今天就要來介紹如何使用開源工具Prometheus和Grafana來監控vLLM的一些硬體與推理指標,最後實作...
Day 7
2024-09-08
4204
0
HuggingFace 是一個更正式的模型下載平台,並提供多種模型選擇,也讓開發者可以尋找其他人 fine-tune 過的模型。 Model Hub 首先,進...
Day 5
2024-09-19
4175
0
前言 之前的程式例子中,我們幾乎都只有讓模型進行一次推論,一點都不像在聊天。你可能會寫出這樣的程式碼 。然後就會像圖中的輸出一樣,模型總是會忘記我們先前說的話。...
Day 24
2024-08-24
4129
0
5-2-3 要求 LLMs 去將上面功能 combine together 合併 那現在有GAS 呼叫 Gemini API 的程式碼也有Line Bot 的...
Day 16
2024-08-20
4125
0
前情提要 昨天我們實作自定義的函數透過 LCEL 成功開啟一個 AI 根據我們需求所寫出的網頁,也實作了幾個 LangChain 的 Runnable 元素。那...
Day 9
2024-09-07
4124
0
摘要這篇文章主要探討了兩種狀態管理框架:傳統的 Redux 和新興的 LangGraph,並比較了它們的設計理念和應用場景。首先,文章簡要介紹了 Redux...