此系列文章會利用Happy-LLM這個開源教學課程,來記錄自己學習LLM原理的心得與過程,並額外介紹LLM的各項延伸應用,例如上下文工程、few-shot、RAG、MCP、Agent等。
在前幾天,我們用了 Transformers 框架來實作 LLM 的 Pretrain 與 SFT,但實際上"完整"微調一個大模型成本非...
在前面幾天,我們學會了 LLM 的基本概念、架構及訓練,今天我們要進入應用篇的第一步,如何評測一個 LLM,如果沒有標準的評測,就無法客觀的知道模型到底學的...
昨天我們學會了如何評測一個大模型的實力,但其實無論再強的 LLM,也都還是避免不了幻覺的產生,這是因為 LLM 只能依靠訓練時的記憶,無法即時取得最新資料。...
昨天簡單介紹了 RAG 是甚麼,可以用來做什麼之後,接下來今天就用一個完整範例,來實作出屬於你的 RAG 系統! RAG 實作範例 以下範例示範如何使用 Lan...
為什麼需要 MCP? 在 LLM 快速普及的今天,越來越多應用想把 AI 與真實世界結合,讓 LLM 變得更實用也更貼近生活,像是從資料庫查詢紀錄、讀取 N...
在昨天我們了解了 MCP(Model Context Protocol, 模型上下文協定)如何成為 AI 世界的「USB-C 標準」,讓模型能夠以安全、標準...
什麼是 AI Agent AI Agent 的定義是,能自主執行任務的人工智慧系統,他能理解指令、分析資料、做出決策,甚至與人或其他系統互動,AI Agen...
目標與概念 昨天我們完成了 n8n 的本地部署,今天要動手建立一個真正能協助你工作的「代理人」,因為到了現在,我始終覺得注音輸入法的自動選字還是很笨,因此我...
昨天我們已經在 n8n 中建立好自動改錯字 Agent 的整個 Workflow,今天要來實作的部分是,讓他變成可以透過 HotKey 呼叫的工具,讓我們在...
Ollama 是什麼? Ollama 是羊駝,是一個輕量化的本地 LLM 運行框架,支援 macOS、Windows、Linux,他能直接下載並執行開源模型...