前情提要
上一篇分享了三個用 API 呼叫的 LLMs,那除了單純的跟 AI 溝通,如果要串接其他 AI 工具或功能,像是 Memory、Retrieve 甚至...
LlamaIndex🦙
今天的主題是 LlamaIndex 的主要功能介紹, LlamaIndex 集成了 Chatbot 中的大部分應用,從QA、多輪對話到...
前言
「注意看,這個男人太狠了,男人的名字叫小帥…」,這句話是不是有聲音呢?這段來自中國盜版電影解說中常出現的經典台詞,我相信這個聲音大家都已經印入腦中了,這也...
這次會建構自己本地端能執行的AI聊天機器人,共會安裝Ollama、Docker以及Open Wed UI,今天會先安裝Ollama
Ollama是一個開源軟體,...
前言 - 什麼是Batching?
先前在 Day4 提到的吞吐量 (Throughput) 🚀 是伺服器在一定時間內可以處理的請求數量。透過增加吞吐量,可以同...
為什麼要學好 LLM Prompt 技巧?
「溝通的藝術」不管在和人類還是AI溝通都扮演著重要的地位。在當今數位時代,語言模型(LLM)如 ChatGPT, C...