什麼是Mixture of Experts (MoE, 專家混合模型) ? 一種神經網路架構設計理念,目標是讓模型 既能擴大參數規模,又能降低計算成本。 基本的...
一、研究背景檢索增強生成(Retrieval-Augmented Generation, RAG)在近年成為大型語言模型(LLM)落地應用的核心框架。流程為:將...
一、背景 傳統的 RAG 架構主要針對「文字資料」,透過向量化、檢索,再將結果交由模型生成答案。但現實世界的資訊並不僅限於文字。醫療領域有 MRI 影像,法律案...
一、HyDE 的基本概念 HyDE 的全名是 Hypothetical Document Embeddings,直譯為「假想文件嵌入」。基本概念是:在檢索之前,...
一. 背景 在傳統的檢索增強生成(RAG)中,模型往往「檢索即用」:檢索到的文件直接交給模型生成答案。這種方式雖然方便,卻容易被錯誤資訊誤導。CRAG(Corr...
MCP(Model Context Protocol)是一種 AI 模型與外部工具溝通的協定,它的目標是讓 LLM(大型語言模型)能以標準化方式存取外部資源,而...
隨著大型語言模型(Large Language Models, LLMs)的爆炸性發展,過去認為需要數百張 GPU卡,如今已經能在一台筆電、甚至手機上跑起來。這...
今天要來介紹兩個好用文本生成圖像的軟體 一、Stable Diffusion 潛在擴散模型(Latent Diffusion Model, LDM) 傳統擴...
昨天介紹了ComfyUI,今天來實作~~ 安裝comfyui 按左鍵兩下跳出搜尋欄,搜尋checkpoint 加載器,包含模型、CLIP(指Prompt轉換成...
前天介紹了stable-diffusion是什麼,今天介紹如何安裝和使用。 到官網下載python 3.12以下的版本 到官網下載git 到auto...