iT邦幫忙

llm相關文章
共有 313 則文章
鐵人賽 生成式 AI DAY 13

技術 day13 chatDocument 文件分析器(一):智能CSV分析與StreamLit前端介面

前言 前幾天我們利用外部資料的力量,來提示LLM,並且使得LLM得到更多內容的提示生成精確的回覆,那麼今天我們打算製作一個可以讓使用者自由選擇檔案的UI介面,並...

鐵人賽 生成式 AI DAY 14
懶人救星:生成式AI 系列 第 14

技術 Day14-從零開始:如何透過LlamaIndex讀取檔案(上)?

【LlamaIndex🦙-Loading】 Nodes/Documents📝 Nodes/Document 是 LlamaIndex 中最核心的概念,用來封裝...

鐵人賽 生成式 AI DAY 14

技術 Day14 - CPU還沒壓榨也壓榨一下:Offloading

前言 昨天的文章中,實現作業系統的虛擬記憶體的其中一個步驟是page swapping 🔄,也就是將記憶體裡面的部分內容與硬碟做交換,以便在實體記憶體不足時,將...

鐵人賽 生成式 AI DAY 13

技術 Day13 - 壓榨完GPU換壓榨VRAM:PagedAttention

前言 在 Day6 的時候我們提到當context length越長,KV cache也會越大,分配KV cache也成為一個挑戰的工作 🧠。在 Day12 學...

鐵人賽 生成式 AI DAY 12
懶人救星:生成式AI 系列 第 12

技術 Day12-LlamaIndex或LangChain,該選哪一個?

LlamaIndex🦙 vs LangChain🐦 LlamaIndex🦙 LlamaIndex 是一個專為構建和管理大型語言模型(LLM)應用而設計的工具。...

鐵人賽 生成式 AI DAY 11
懶人救星:生成式AI 系列 第 11

技術 Day11-打破語言模型的極限!RAG 技術如何讓 GPT 更聰明?

What is RAG (Retrieval-Augmented Generation)? RAG(檢索增強生成)是一種將預訓練(Pre-training)的大...

鐵人賽 生成式 AI DAY 12

技術 day12 讓PDF 成為 AI 腦袋的一部分:自製簡易ChatPDF前置作業

前言 我們已經介紹HTML、csv、txt、py檔案作為外部資料源,使得LLM可以得到額外的資訊,並且獲得更為精準的回應,那麼我們要介紹最後一個常見的外部資料源...

鐵人賽 生成式 AI DAY 13
懶人救星:生成式AI 系列 第 13

技術 Day13-LlamaIndex 🦙全解析:從資料讀取到多輪對話,一網打盡!

LlamaIndex🦙 今天的主題是 LlamaIndex 的主要功能介紹, LlamaIndex 集成了 Chatbot 中的大部分應用,從QA、多輪對話到...

鐵人賽 生成式 AI DAY 20

技術 【Day 20】- 結合 LangGraph 與 MongoDB 打造智慧工地安全監控系統:Agentic RAG 技術應用實例

摘要這篇文章探討了如何將 LangGraph 的強大功能與 MongoDB 的資料儲存和檢索能力相結合,打造一個智慧的工地安全監控系統。文章首先介紹了 Lan...

鐵人賽 生成式 AI DAY 30

技術 【Day 30】- 從 LangGraph 到使用者介面:整合 FastAPI 與 Streamlit 的全方位指南

摘要文章首先概述了專案的核心目標,包括 理解自然語言查詢、進行即時網路搜尋、提供準確相關的答案、支援多輪對話、提供流暢的使用體驗。接著,文章深入分析了系統的架...

鐵人賽 生成式 AI DAY 29

技術 【Day 29】- 網站開發遇上 AI:FastAPI、Streamlit 與 LangServe 的實戰指南

摘要這篇文章旨在引導讀者學習如何利用 FastAPI 建構高效的後端服務,使用 Streamlit 打造互動式前端介面,並透過 LangServe 將 Lan...

鐵人賽 生成式 AI DAY 25

技術 【Day 25】- 數位轉型下的工安革命:知識圖譜與LangGraph的完美結合

摘要這篇文章深入探討了如何將知識圖譜與 LangGraph 結合,打造一個智慧化的工安監控管理系統。文章首先介紹了知識圖譜在管理工安資料的優勢,包括儲存結構化...

鐵人賽 生成式 AI DAY 28

技術 【Day 28】- 從零開始的 DSPy:打造高效翻譯錯誤檢測系統

摘要這篇文章介紹了一個名為 DSPy 的 AI 開發框架,它能夠幫助開發者更有效地構建和優化語言模型。文章從一個翻譯錯誤檢測任務為例,一步一步地示範了如何使用...

鐵人賽 生成式 AI DAY 27

技術 【Day 27】- 告別提示工程:DSPy如何革新大型語言模型的應用開發

摘要DSPy 是一個由 Stanford NLP 研究人員開發的框架,旨在簡化大型語言模型 (LLM) 的開發。它以 "Programming, n...

鐵人賽 生成式 AI DAY 26

達標好文 技術 【Day 26】- Ollama: 革命性工具讓本地 AI 開發觸手可及 - 從安裝到進階應用的完整指南

摘要這篇文章是一篇關於 Ollama 的詳細指南,介紹了 Ollama 這個開源本地大型語言模型運行框架。文章首先介紹了 Ollama 的背景、特性和優點,強...

鐵人賽 生成式 AI DAY 24

技術 【Day 24】- GraphRAG:革新檢索增強生成的新範式

摘要這篇文章介紹了一種名為 GraphRAG 的新型檢索增強生成技術,它由微軟研究團隊提出,旨在突破傳統 RAG 方法在處理複雜資訊時的局限性。GraphRA...

鐵人賽 生成式 AI DAY 23

技術 【Day 23】- Adaptive-RAG:動態檢索策略提高系統問答精準度

摘要這篇文件介紹了一種名為「Adaptive-RAG」的技術,它旨在提升問答系統的準確性和效率。Adaptive-RAG 的核心概念是根據使用者查詢的複雜度動...

鐵人賽 生成式 AI DAY 22

技術 【Day 22】- CRAG: 檢索增強生成的糾錯機制 - 提升大型語言模型問答精確度

摘要這篇文章介紹了一種名為「Corrective RAG (CRAG)」的技術,旨在提升大型語言模型(LLM)在問答系統中的準確性和可靠性。CRAG 的核心思...

鐵人賽 生成式 AI DAY 21

技術 【Day 21】- 從基礎到進階: 掌握RAG基礎並使用LangGraph實現Agentic RAG

摘要這篇文章探討了檢索增強生成 (Retrieval-Augmented Generation, RAG) 技術,它結合了資訊檢索和文本生成,以克服現有大型語...

鐵人賽 生成式 AI DAY 19

技術 【Day 19】- LangGraph 的記憶機制:提升 AI 助理的上下文理解能力

摘要這篇文章探討了 LangGraph 這個框架,它用於提升 AI 助理的記憶能力,並能有效管理對話歷史。文章首先說明了 AI 助理需要記憶功能的原因,以及記...

鐵人賽 生成式 AI DAY 18

技術 【Day 18】- LangGraph 與 LangFuse:打造 Agent 觀測系統全方位指南

摘要這篇文章探討了如何使用 LangGraph 與 LangFuse 打造全方位的 Agent 觀測系統。LangGraph 是一個用於構建複雜 AI 代理應...

鐵人賽 生成式 AI DAY 11

技術 day11 文字程式檔的智慧學習:讓LLM成為你的程式碼教學助手

前言 昨天和前天,我們使用網頁資料和CSV資料作為外部的資料源,今天我們會介紹使用txt檔案,或者是副檔名為py的檔案來進行匯入轉成向量,並作為資料源給LLM提...

鐵人賽 生成式 AI DAY 10

技術 day10 智能CSV分析器,讓LLM幫你分析與統整

前言 昨天我們利用網頁的資料來進行LLM的資訊擴充,今天我們嘗試不同的資料來源,這次我們試試看CSV檔案 正文 資料來源 我們使用政府的資料開放平台的低收入戶...

鐵人賽 生成式 AI DAY 17

技術 【Day 17】- 多代理系統設計: 監督者模式的應用與實踐

摘要這篇文章探討了多代理系統設計中監督者模式的應用和實踐。文章首先回顧了多代理系統的基本概念和協作模式,接著介紹了監督者模式的特性,並以台灣棒球和啦啦隊新聞處...

鐵人賽 生成式 AI DAY 16

技術 【Day 16】- Agentic Pattern:以多代理協作模式革新 AI 系統

摘要這篇文章探討了 多代理系統 在人工智能領域的應用,特別是 如何利用 LangGraph 框架來構建和管理多代理系統。文章首先介紹了多代理系統的基本概念,包...

鐵人賽 生成式 AI DAY 15

技術 【Day 15】- Agentic Design Pattern: Planning - 賦予 AI 自主規劃能力

摘要這篇文章主要介紹了 Agentic Design Pattern 中的 Planning 模式,它賦予 AI 自主規劃的能力,讓 AI 能夠處理那些難以預...

鐵人賽 生成式 AI DAY 14

技術 【Day 14】- 翻譯革新:從吳恩達的 Translation Agent 到 LangGraph 的智能協作模式

摘要這篇文章主要探討了「AI 代理」領域的最新進展,以吳恩達團隊推出的 Translation Agent 開源工具為例,展現了 AI 如何革新翻譯的效率和準...

鐵人賽 生成式 AI DAY 13

技術 【Day 13】- 進階 LLM 反思機制:Reflexion 技術的創新與應用

摘要這篇文章探討了大型語言模型(LLM)領域中的反思機制,特別是新興的 Reflexion 技術。它首先回顧了先前 Self-Refine 技術的局限性,例如...

鐵人賽 生成式 AI DAY 12

技術 【Day 12】- AI代理自我反思:深入探討 Self-Refine 技術與 LangGraph 實作

摘要這篇文章主要探討了 大型語言模型 (LLM) 的自我完善技術,特別是 Self-Refine 的概念和實作方法。文章從介紹 Reflection Agen...

鐵人賽 生成式 AI DAY 10

技術 【Day 10】從零到一:用實戰案例掌握 LangGraph Studio 開發 AI 代理

摘要本文介紹了 LangGraph Studio,一個專為 AI 代理應用程式開發設計的整合開發環境 (IDE)。文章首先介紹了 LangGraph Stud...