iT邦幫忙

2026 iThome 鐵人賽

DAY 8
0
AI Engineering

30 天 AI 應用煉成陣:活用 Low-code 打造專屬智慧 Agent系列 第 8 篇

Day 08 解密 RAG 核心:Embedding 與 Meta Faiss 向量檢索

  • 分享至 

  • xImage
  •  

昨天我們提到,為了解決大模型的 Token 限制與昂貴成本,我們不能把整本數百頁的企業文件或醫療指引直接塞給 AI。我們需要一套機制:「先從文件中精準找出相關的段落,再把這些段落餵給 AI。」

這套機制就是目前業界最火熱的架構:RAG (Retrieval-Augmented Generation,檢索增強生成)。而 RAG 的核心底層邏輯,其實就是把國文課變成數學課。

1. 文本向量化 (Embedding):把語意變成座標
電腦不懂「蘋果」和「橘子」在語意上有多接近,但電腦懂數字。Embedding 技術就是透過神經網路,將一段文字轉換成一個由數百到數千個浮點數組成的陣列(Array)。
例如:一段文字經過模型(如 text-embedding-3-small)處理後,會變成類似 [0.12, -0.55, 0.89, ...] 的多維度向量。

你可以把它想像成一個擁有上千個維度的超級 3D 空間。在這個空間裡,語意相近的句子(例如「我今天請病假」與「我身體不舒服不上班」)它們的座標點會極度靠近;而與之無關的句子,座標就會離得非常遠。

2. Meta Faiss:輕量極速的相似度搜尋引擎
當我們把企業內部上萬份文件都轉換成「浮點數陣列」後,我們需要一個地方來儲存並搜尋它們。

這時就輪到 Meta (Facebook) 開源的 Faiss 登場了。Faiss 嚴格來說不是一個龐大臃腫的傳統資料庫,而是一個針對稠密向量進行「極速相似度搜尋」的演算法庫。當使用者輸入一個問題時,我們會先把問題也 Embedding 成一組陣列,然後丟給 Faiss。Faiss 會透過計算數學上的「餘弦相似度 (Cosine Similarity)」或「歐式距離」,瞬間從百萬筆資料中,精準抓出距離最近、語意最相關的 Top 3 文件段落。

現在我們有了把文字轉成數學座標的魔法,也能快速檢索了。但問題來了:我們該把整份 10 頁的 PDF 直接轉成一個向量嗎?這樣找出來的資料會不會太粗糙?明天 [Day 09],我們將探討 RAG 系統中最考驗程式邏輯的環節:文本切塊 (Chunking) 策略!


上一篇
Day 07 AI 其實是金魚腦?打破記憶限制與 Token 成本管理的工程權衡
下一篇
Day 09餵給 AI 的資料刀工:文本切塊 (Chunking) 策略與 LangChain4j 實戰
系列文
30 天 AI 應用煉成陣:活用 Low-code 打造專屬智慧 Agent 共 13 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言