生成式 AI 雖然能快速整理資訊,但如果缺少可靠的資料來源,仍可能產生內容錯誤或回答過時等問題。為改善這種情況,可以導入 RAG(Retrieval-Augme...
RAG Chunking 建立 AI RAG (Retrieval-Augmented Generation,檢索增強生成),讓 AI 可以依照企業內部知識回...
前言 近幾年,生成式 AI 發展快速,從 ChatGPT, Gemini, On Premises Model (Gemma, Llama, Qwen),我們只...
「從最初的一個想法,到寫下每一行 FastAPI、RAG 向量檢索、Gemini 三階段推理與 Linux systemd 自動化運維程式碼,這 30 天的旅程...
「在 AI Agent 的知識庫架構中,RAG 是消除大模型幻覺的定海神針。透過在地化的 Embedding 模型、asyncio.to_thread 非阻斷線...
AI 黑魔法(07) 把 Prompt Injection 分成直接與間接兩種,直接注入很直白、很好理解,就是攻擊者坐在聊天視窗前,把攻擊 payload 餵給...
「要讓 LLM 產出的金融分析報告具備高度專業性與邏輯一致性,不能寄望於單一 Prompt,而是要將分析流程拆解為具備強約束力的三階段資料管道(Stage 1-...
現在,我們有 LLM, 有語音轉文字,有文字轉語音。接下來,讓我們來讓系統能看:OCR 功能,以便建一個知識庫。 網域設定:ocr.iron30.comrag...
「最好的 AI Agent 不是固定不變的系統,而是在每一次與使用者的對話中,自動汲取經驗並寫回知識庫、自我進化的系統。」 在 Day 06 中,我們介紹了 S...
「大語言模型給的是一般性常識,而 RAG 檢索增強技術給的,才是讓 AI Agent 具備特定金融領域深度的靈魂。」 在 Day 04 中,我們介紹了 API...
「在免費 API 與生產級維運之間,強健的 API Gateway 與 Model Fallback 自動降級是能讓 AI Agent 穩定運作的橋樑。」 在先...
TL;DR 最近在開發 AI Agent 處理美股財報時,我發現了一個嚴重陷阱:過度依賴 Vector Search (向量搜尋) 常會導致跨公司的「Entit...
在做 AI 知識庫或客服機器人時,常見問題不是「資料不夠」,而是「檢索方式不適合」。 混合檢索通常會結合兩種方式:語意搜尋:看懂意思,適合自然語言問法。關鍵字搜...
這篇文章記錄我們在打造忠台AI智能客服( https://chungtair.com )時,解決 RAG 幻覺問題的實作思路。不是教科書,是踩過的坑。 問題背景...
2026 年,Sam Altman 與 Elon Musk 的法律衝突正式浮上檯面。多數媒體將焦點放在企業治理、股價波動或個人恩怨,但對實際在第一線構建 AI...
隨著 AI 工具的快速普及,Google NotebookLM 以其強大的摘要能力與流暢的對話界面吸引了大量使用者。 然而,在經過大量實戰測試與技術深究之後,可...
當訓練資料本身被污染:開發者必須知道的 AI 生成內容危機 前言:你在用的 AI 模型,可能已經學到錯誤的東西 2026 年 4 月,Deezer 執行長 Al...
最近看到一篇在分析 Google Gemma 4 的文章,有一個問題其實蠻值得思考: 如果 AI 已經可以在本地設備上運行,我們還需要一直依賴雲端 API 嗎?...
工程團隊有個很常見的痛點:文件寫了,但沒人找得到。README、架構說明、API 文件散落在十幾個 Repo,新人 onboarding 要翻半天,老人也不見...
從學姐的一個提問開始:我如何用 RAG 幫 HR 打造「履歷摘要小助手」 前言:技術的價值,在於解決身邊人的困擾 最近在醫院辦公室,聽到人資單位的學姐在感嘆:...
前言:當 Google NotebookLM 很香,但公司法務站在你後面...最近 Google 的 NotebookLM 爆紅,把 PDF 丟進去就能生成 P...
在這次鐵人賽開始之前,我的目標其實很單純:讓 Notion 筆記不只是儲存資訊,而是能主動回應問題。 30 天過去了,我們從零開始,經歷了資料結構設計、向量化、...
前言 歡迎來到最後一天!照過往參賽的邏輯,今天都會是一個反省與回顧的好日子,我個人的回顧比較沒人在乎,會放在文章結束前,我們主要還是先回顧一下這30天來我們究竟...
🔹 第 30 天只是一個開始 這系列是我 9/4 起床時腦中靈光一閃決定要寫的。當我在 Day 1 決定最後目標是要做「一個企業知識庫 FAQ Chatbot...
🔹 前言 Day28 做完了環境評估以及串接測試後,今天我們會實際把程式部署到 AWS 上面,看看整條路徑能不能撐得住。 首先把應用程式部署到 AWS EC2,...
引言 前面三天我們一步步完成了資料前處理、建立向量資料庫、向量檢索、重排序,今天終於要進入最後一塊拼圖:生成(Generation),也就是讓 LLM 把前面找...
在 Day 27,我們深入診斷了系統中的關於 metadata 四個關鍵問題,並制定了完整的修正計畫。今天我們要動手實作,按照既定的順序逐步完成所有修正:...
🔹 前言 經過前 26 天對於 RAG 以及對於 LLMOps 的各面向的學習,終於來到實作以及驗收這個 RAG FAQ Chatbot 的階段。今天的目標就是...
引言 上一篇我們用向量檢索找出了幾個相似的 chunk。但有時候即使找到了 top_k 的候選文件,相關性的排序也還不是最完美的。有些內容雖然有相關,但對回答問...
在 Day 25,我們完成了對話記憶與來源追蹤的完整設計規劃。今天,我們將把這些設計概念轉化為實際可運作的程式碼,並透過實測發現系統的改進空間。 今日目標:...