在 LLMs 中,後端解決方案的重要性主要來自於 function calling。因為 RAG 的方法多種多樣,到目前為止,尚未有一種方法能完全提供正確的回...
預設不見得最好
開始用 RAG 處理資料後,發現抓出的內容似乎有點落差,而影響查詢結果最重要的就是 Embedding,原本想說 Open AI 的 embe...
1-6 人工智慧開發實踐前的 ( LLMs vs LLMs API )選擇指南
在選擇適合的人工智慧系統時,首先需要考慮預算。本文將根據不同的預算情況,以及對...
有了AI寫程式都可以偷懶
還記得 Day11 提到要取得即時資訊只能夠過 Function Calling 吧,網路上一堆教學都使用模擬資料,今天凱文大叔來教...
前言
接續昨天的監控介紹和 Day24 的實作篇,今天就要來介紹如何使用開源工具Prometheus和Grafana來監控vLLM的一些硬體與推理指標,最後實作...
引言 - 從無到有,開始打造一個前所未有的生成式 AI 應用
背景
觀望許久,目前好像沒有一篇教學能從頭開始帶你真正做一個特殊的 AI 應用或許有很多 Op...