1. 分享幾種地端 AI 專案的實戰設計:
(1) Workflow 流程設計
(2) RAG 檢索增強生成
(3) 視覺應用
(4) 與 Hermes Agent 協作
(5) 自研 Agent 框架
2. 整理這些實戰路上少不了的工具:
(1) LangChain + LangGraph
(2) LlamaIndex
(3) LangChain DeepAgent
(4) Ollama
3. 聊聊開源模型與地端 AI 發展的觀察與展望
上一篇我們畫了架構圖,描述一個場景:桌上架一台 Webcam 對著產品拍,使用者一邊看畫面一邊打字問「這是什麼型號?」、「規格是什麼?」,這篇就把它實作出來。...
前面幾篇蓋好了地端 AI 建築的地基:03 談 Ollama 這個地端 LLM 的好夥伴,04 - 06 則走了一輪 LangChain 到 LangGrap...
本篇聚焦在查詢端的兩個進階後處理技巧:Small-to-Big 與 Hybrid Query。這兩者都不改變你怎麼問問題,而是優化:「檢索到的內容要怎麼被組織...
承接前兩篇的 LlamaIndex 基礎,本篇聚焦在「檢索完成之後」的兩件事。 Query 後 LlamaIndex 到底做了什麼? 一個 query_e...
RAG 是什麼? RAG 全名是 Retrieval-Augmented Generation,中文常翻成「檢索增強生成」。名字聽起來有點學術,但概念其實很簡單...
為什麼要有意圖分析? 在地端 AI / RAG 系統裡,使用者丟進來的第一句話,往往決定了後面整條處理鏈要走哪條路。如果每一句話都直接丟給大型 LLM 去判斷...
上一篇聊完了意圖分析的架構設計:為什麼要先讓小模型頂在前面快篩、信心度不夠才升級給 LLM 複審。本篇就是「捲起袖子」的實作篇:示範第一階段Intent-Cl...
之前提過「為什麼意圖分析要分兩階段」:便宜的小模型先擋在前面做快篩,真的沒把握的案例才交給 LLM 精篩,這樣對地端服務來說既省 Token 又保住準確度。這...
上一篇聊完了意圖分析,知道使用者問的問題該往哪個方向查。但在那之前,其實有一件更基礎、也更容易被低估的事情 — 你的資料到底要怎麼「切」、怎麼「向量化」。這件...
上一篇聊完了 RAG Agent 概念,這篇要接著往下開始實作,也就是使用者丟一個問題進來之後,RAG Agent 實際上是怎麼把它變成一個答案的。 實作...