iT邦幫忙

llm相關文章
共有 365 則文章
鐵人賽 生成式 AI DAY 20

技術 【Day 20】- 結合 LangGraph 與 MongoDB 打造智慧工地安全監控系統:Agentic RAG 技術應用實例

摘要這篇文章探討了如何將 LangGraph 的強大功能與 MongoDB 的資料儲存和檢索能力相結合,打造一個智慧的工地安全監控系統。文章首先介紹了 Lan...

鐵人賽 生成式 AI DAY 30

技術 【Day 30】- 從 LangGraph 到使用者介面:整合 FastAPI 與 Streamlit 的全方位指南

摘要文章首先概述了專案的核心目標,包括 理解自然語言查詢、進行即時網路搜尋、提供準確相關的答案、支援多輪對話、提供流暢的使用體驗。接著,文章深入分析了系統的架...

鐵人賽 生成式 AI DAY 29

技術 【Day 29】- 網站開發遇上 AI:FastAPI、Streamlit 與 LangServe 的實戰指南

摘要這篇文章旨在引導讀者學習如何利用 FastAPI 建構高效的後端服務,使用 Streamlit 打造互動式前端介面,並透過 LangServe 將 Lan...

鐵人賽 生成式 AI DAY 25

技術 【Day 25】- 數位轉型下的工安革命:知識圖譜與LangGraph的完美結合

摘要這篇文章深入探討了如何將知識圖譜與 LangGraph 結合,打造一個智慧化的工安監控管理系統。文章首先介紹了知識圖譜在管理工安資料的優勢,包括儲存結構化...

鐵人賽 生成式 AI DAY 28

技術 【Day 28】- 從零開始的 DSPy:打造高效翻譯錯誤檢測系統

摘要這篇文章介紹了一個名為 DSPy 的 AI 開發框架,它能夠幫助開發者更有效地構建和優化語言模型。文章從一個翻譯錯誤檢測任務為例,一步一步地示範了如何使用...

鐵人賽 生成式 AI DAY 27

技術 【Day 27】- 告別提示工程:DSPy如何革新大型語言模型的應用開發

摘要DSPy 是一個由 Stanford NLP 研究人員開發的框架,旨在簡化大型語言模型 (LLM) 的開發。它以 "Programming, n...

鐵人賽 生成式 AI DAY 26

達標好文 技術 【Day 26】- Ollama: 革命性工具讓本地 AI 開發觸手可及 - 從安裝到進階應用的完整指南

摘要這篇文章是一篇關於 Ollama 的詳細指南,介紹了 Ollama 這個開源本地大型語言模型運行框架。文章首先介紹了 Ollama 的背景、特性和優點,強...

鐵人賽 生成式 AI DAY 24

技術 【Day 24】- GraphRAG:革新檢索增強生成的新範式

摘要這篇文章介紹了一種名為 GraphRAG 的新型檢索增強生成技術,它由微軟研究團隊提出,旨在突破傳統 RAG 方法在處理複雜資訊時的局限性。GraphRA...

鐵人賽 生成式 AI DAY 23

技術 【Day 23】- Adaptive-RAG:動態檢索策略提高系統問答精準度

摘要這篇文件介紹了一種名為「Adaptive-RAG」的技術,它旨在提升問答系統的準確性和效率。Adaptive-RAG 的核心概念是根據使用者查詢的複雜度動...

鐵人賽 生成式 AI DAY 22

技術 【Day 22】- CRAG: 檢索增強生成的糾錯機制 - 提升大型語言模型問答精確度

摘要這篇文章介紹了一種名為「Corrective RAG (CRAG)」的技術,旨在提升大型語言模型(LLM)在問答系統中的準確性和可靠性。CRAG 的核心思...

鐵人賽 生成式 AI DAY 21

技術 【Day 21】- 從基礎到進階: 掌握RAG基礎並使用LangGraph實現Agentic RAG

摘要這篇文章探討了檢索增強生成 (Retrieval-Augmented Generation, RAG) 技術,它結合了資訊檢索和文本生成,以克服現有大型語...

鐵人賽 生成式 AI DAY 19

技術 【Day 19】- LangGraph 的記憶機制:提升 AI 助理的上下文理解能力

摘要這篇文章探討了 LangGraph 這個框架,它用於提升 AI 助理的記憶能力,並能有效管理對話歷史。文章首先說明了 AI 助理需要記憶功能的原因,以及記...

鐵人賽 生成式 AI DAY 18

技術 【Day 18】- LangGraph 與 LangFuse:打造 Agent 觀測系統全方位指南

摘要這篇文章探討了如何使用 LangGraph 與 LangFuse 打造全方位的 Agent 觀測系統。LangGraph 是一個用於構建複雜 AI 代理應...

鐵人賽 生成式 AI DAY 11

技術 day11 文字程式檔的智慧學習:讓LLM成為你的程式碼教學助手

前言 昨天和前天,我們使用網頁資料和CSV資料作為外部的資料源,今天我們會介紹使用txt檔案,或者是副檔名為py的檔案來進行匯入轉成向量,並作為資料源給LLM提...

鐵人賽 生成式 AI DAY 10

技術 day10 智能CSV分析器,讓LLM幫你分析與統整

前言 昨天我們利用網頁的資料來進行LLM的資訊擴充,今天我們嘗試不同的資料來源,這次我們試試看CSV檔案 正文 資料來源 我們使用政府的資料開放平台的低收入戶...

鐵人賽 生成式 AI DAY 17

技術 【Day 17】- 多代理系統設計: 監督者模式的應用與實踐

摘要這篇文章探討了多代理系統設計中監督者模式的應用和實踐。文章首先回顧了多代理系統的基本概念和協作模式,接著介紹了監督者模式的特性,並以台灣棒球和啦啦隊新聞處...

鐵人賽 生成式 AI DAY 16

技術 【Day 16】- Agentic Pattern:以多代理協作模式革新 AI 系統

摘要這篇文章探討了 多代理系統 在人工智能領域的應用,特別是 如何利用 LangGraph 框架來構建和管理多代理系統。文章首先介紹了多代理系統的基本概念,包...

鐵人賽 生成式 AI DAY 15

技術 【Day 15】- Agentic Design Pattern: Planning - 賦予 AI 自主規劃能力

摘要這篇文章主要介紹了 Agentic Design Pattern 中的 Planning 模式,它賦予 AI 自主規劃的能力,讓 AI 能夠處理那些難以預...

鐵人賽 生成式 AI DAY 14

技術 【Day 14】- 翻譯革新:從吳恩達的 Translation Agent 到 LangGraph 的智能協作模式

摘要這篇文章主要探討了「AI 代理」領域的最新進展,以吳恩達團隊推出的 Translation Agent 開源工具為例,展現了 AI 如何革新翻譯的效率和準...

鐵人賽 生成式 AI DAY 13

技術 【Day 13】- 進階 LLM 反思機制:Reflexion 技術的創新與應用

摘要這篇文章探討了大型語言模型(LLM)領域中的反思機制,特別是新興的 Reflexion 技術。它首先回顧了先前 Self-Refine 技術的局限性,例如...

鐵人賽 生成式 AI DAY 12

技術 【Day 12】- AI代理自我反思:深入探討 Self-Refine 技術與 LangGraph 實作

摘要這篇文章主要探討了 大型語言模型 (LLM) 的自我完善技術,特別是 Self-Refine 的概念和實作方法。文章從介紹 Reflection Agen...

鐵人賽 生成式 AI DAY 10

技術 【Day 10】從零到一:用實戰案例掌握 LangGraph Studio 開發 AI 代理

摘要本文介紹了 LangGraph Studio,一個專為 AI 代理應用程式開發設計的整合開發環境 (IDE)。文章首先介紹了 LangGraph Stud...

鐵人賽 生成式 AI DAY 8

技術 day8 LangChain RAG:資料庫建置到檢索生成解析

前言 昨天我們進行RAG的介紹、使用RAG的步驟與優劣勢,那麼今天我們將會介紹我們在LangChain使用RAG的詳細步驟,畢竟會需要外部資料源,我們之後會從資...

鐵人賽 生成式 AI DAY 7

技術 day7 RAG 的力量:將檢索與生成融合提升LLM的回應準確性

前言 之前我們有提到LangChain的結構 現在我們已經有Prompt、LLM、Chain現在我們要開始介紹Document的部分,我們會介紹提示工程的RAG...

鐵人賽 生成式 AI DAY 12

技術 Day12 - 壓榨你的GPU,讓使用率up up up:Batching

前言 - 什麼是Batching? 先前在 Day4 提到的吞吐量 (Throughput) 🚀 是伺服器在一定時間內可以處理的請求數量。透過增加吞吐量,可以同...

鐵人賽 生成式 AI DAY 11

技術 Day11 - 沒有什麼是一個GPU不能解決的......Model Parallelization

前言 這一章將介紹LLM在GPU上平行化使用的方法,這章內容比較少,但標題很長XD 如果運算上有什麼資源不夠的,沒有什麼是一個GPU不能解決的,如果有的話,那...

鐵人賽 生成式 AI DAY 10

技術 Day10 - 不用再手動分配計算資源?分散式計算 Ray Serve 介紹

前言 從這章開始,將進入推理加速相關技術的理論章節 🚀。 這些理論都已經都有被應用在一些知名框架當中,其實3分鐘就可以輕鬆應用了。但是如果客戶或面試官問說這些...

鐵人賽 生成式 AI DAY 9

技術 Day9 - 選擇適合你的中文local LLM

前言 這章來整理一下目前看到的繁體中文LLM,以及怎麼選擇適合自己任務的local LLM。 找local Model最重要的是模型的推理能力,模型對於特定任務...

鐵人賽 生成式 AI DAY 3
懶人救星:生成式AI 系列 第 3

技術 Day3-AI工具榜單大揭密:今年最值得關注的百大 AI 工具!

前言 2024年是AI創意開始爆發的一年,隨著GPT, Claude, Llama…等大型模型成功的發展,越來越多基於此技術的新創AI公司快速崛起。AI不再僅僅...

鐵人賽 生成式 AI DAY 6

技術 day6 LLM結構化輸出:精確控制與系統串接的利器

前言 前天和昨天,我們進行promptTemplate和langServe快速部屬api的操作範例,但今天介紹及說明另外一個核心功能,結構化輸出structur...