iT邦幫忙

llm相關文章
共有 323 則文章
鐵人賽 DevOps DAY 15

技術 【Day 15】大規模 AI Agent 應用的維運與架構設計挑戰

一個響亮的聲音正在科技圈迴盪:「LLM Agent 時代來臨,人類不再需要學習軟體工程了!」這個論點極具誘惑力:當一個全能的 AI 助理可以根據你的自然語言需...

鐵人賽 AI & Data DAY 16

技術 Day 16|RAG 評估指南(1/2):檢索指標(中)

延續昨天的內容,如果想回顧其他指標的話可以看上一篇--Day 15|RAG 評估指南(1/2):檢索指標(上)廢話不多說了,我們馬上開始! 5. F1 分數...

鐵人賽 AI & Data DAY 15

技術 Day 15|RAG 評估指南(1/2):檢索指標(上)

昨天有說到 RAG 的效能衡量可以分成兩大類,今天就是要先介紹檢索指標(Retrieval metrics)。我們不需要把檢索和生成混在一起看,而是可以單獨檢查...

鐵人賽 生成式 AI DAY 14

技術 Day 14: Semantic Kernel Multi-Agent 實戰 - 多代理人的 HandoffOrchestration 編排系統

前面的幾個範例是以單一代理人 (Single Agent) 為主,無論是單工具 (Single Tool) 還是多工具 (Multi-Tool) 的情境,都由同...

鐵人賽 DevOps DAY 14

技術 【Day 14】探討 LangGraph 的 Deep Research Agent 架構

概述 在當今資訊爆炸的時代,很多複雜問題都需要我們花費大量時間在網路上搜尋、閱讀和整理資訊。如果能有一個 AI 代理幫我們自動完成這些深度研究任務,將大量資料...

鐵人賽 AI & Data DAY 14

技術 Day 14|RAG 評估方法概要:量化效能,避免幻覺

這次要講的內容是 如何去評估 RAG 的效能。我們使用 RAG 的最大原因,就是希望能避免 LLM 產生幻覺,但問題是:即使結合了檢索,我們仍然不能百分之百保證...

鐵人賽 生成式 AI DAY 13

技術 Day 13 : Semantic Kernel Single Agent 實戰 - 多工具的 OfficeOne Agent 同時處理多項任務

在前一篇 Day 12 中,我們建立了一個 OfficeOne Agent,能夠根據使用者需求選擇合適的工具來處理辦公室相關請求。然而,在實際應用場景中,使用者...

鐵人賽 DevOps DAY 13

技術 【Day 13】不再需要 Dashboard?LLM 驅動的可觀測性介面

概述 在可觀測性的世界裡,資料可視化與使用者介面,始終是我們從龐大數據中提煉洞見的最後一哩路。這正是為什麼像 Grafana 這樣的可視化平台,即便歷經多次技...

鐵人賽 生成式 AI DAY 14

技術 Day 14 - Context Engineering

前幾篇講述了 Vibe Coding 與 Prompt Engineering,接下來要講述 Context Engineering (上下文工程) 提示詞與系...

鐵人賽 AI & Data DAY 13

技術 Day 13|實戰 Generation Pipeline:Chroma 檢索 × Ollama 生成的完整流程

今天要實作的內容是 Generation pipeline 的部分,就是怎麼將提問跟 RAG 檢索到的資料全部丟到 LLM 給他做回應。 因為這邊後面的實作內容...

鐵人賽 生成式 AI DAY 12

技術 Day 12 : Semantic Kernel Single Agent 實戰 - 多工具的OfficeOne Agent

這篇我們要來做一個基於 Single Agent 變化的 AI Agent 範例——「OfficeOne Agent」,這個助理可以根據使用者的需求,使用最合適...

鐵人賽 AI & Data DAY 24

技術 Day 24 | ChatGPT × HCI:語言模型作為 UX 助理

前言 到目前為止,我們已經把「感知 → 融合 → 狀態 → 回饋」跑起來了;今天轉向 人機互動(HCI) 本身:當 ChatGPT 這類大型語言模型(LLM)變...

鐵人賽 DevOps DAY 12

技術 【Day 12】打造企業級 AI Agent:認識 Agent 框架與選用指南

概述 在上一篇文張中,我們透過 Google Agent 白皮書確立了一個核心共識:AI 應用的未來屬於能夠感知、思考、採取行動的智能代理(Agent)。而一...

鐵人賽 Mobile Development DAY 30

技術 【30 天做一個極簡App】鐵人賽完賽心得、專案回顧與未來展望

終於寫到Day 30了~在過去寫文章的日子裡,從一個模糊的想法開始,透過每天的持續推進,一手打造出橫跨前後端、整合了LLM人工智慧、具備雲端同步與雙平台上架能力...

鐵人賽 AI & Data DAY 12

技術 Day 12|實戰向量資料庫:用 ChromaDB 查詢法規內容

昨天已經教學大家要怎麼做 Chunking 了,今天就是要教學如何把它放進一個可以用來查詢的資料庫,這邊我們也會試著提問,看產出。雖然我昨天的教學只有教你怎麼切...

鐵人賽 AI & Data DAY 11

技術 Day 11|實戰 Chunking:從《資通安全管理法》學習切分技巧

今天就開始我們的實作,這次我取用的資料是資通安全管理法,這邊可以直接點擊網站下載。 1. 取得文件內的文字要處理這個文件前,要先取得這個檔案的內容。 # 要先安...

鐵人賽 DevOps DAY 11

技術 【Day 11】從玩具到工具:了解生產級 LLM Agent 下的冰山

前言 許多開發者初次接觸 AI Agent,會被 ReAct (Reasoning and Acting) 框架的簡潔與強大所吸引,並迅速用幾十行程式碼實現一...

鐵人賽 生成式 AI DAY 11

技術 Day 11: Semantic Kernel Single Agent 實戰 - 銀行匯款 Agent

這篇我們要來做一個實用又貼近生活的 AI Agent 範例——「銀行匯款 Agent」。 這個助理的任務很單純,就是幫我們完成一筆台幣(TWD)的國內匯款資料蒐...

鐵人賽 生成式 AI DAY 10

技術 Day 10:來了!! Single Agent 實戰 - 對帳稽核 Agent

延續上一篇文章,本篇將來實作一個 Single Agent 範例,目標是打造一個「應付帳款三方對帳(PO/收貨單/發票)稽核 Agent」,流程是把「採購單(P...

鐵人賽 DevOps DAY 10

技術 【Day 10】LLM 的「工具」思維:用 Function Calling 讓你秒懂 ReAct、MCP 與 A2A

前言 在先前關於 Google Agent 白皮書的探討中,我們觸及了一個核心觀點:一個大型語言模型(LLM)之所以能被稱為「Agent」(代理人),其關鍵區...

鐵人賽 生成式 AI DAY 9

技術 Day 9: 什麼!!多了一個 Semantic Kernel Agent Framework

透過前面幾篇文章的內容,對 Semantic Kernel 有了基本的認識,包含模型的連結、Prompt 的設計、plugin 的建立與使用、甚至加入短期記憶(...

鐵人賽 DevOps DAY 9

技術 【Day 9】LLM 應用入門:你的 LLM 應用是 Model-based 還是 Agent-based?

概述 在過去短短兩年裡,大型語言模型(LLM)應用經歷了一場驚人的蛻變。我們從驚嘆於 ChatGPT 能寫詩作對、回答知識性問題的「聊天機器人」時代,迅速躍遷...

鐵人賽 AI & Data DAY 10

技術 Day 10|小總結 & 實作規劃——我的第一個 RAG Pipeline 要長什麼樣?

新來的朋友,建議可以先回顧前幾天的文章,之前已經分別聊過 RAG 的兩大流程: Indexing pipeline:資料怎麼被處理、切割、轉換成向量,最後存進...

鐵人賽 生成式 AI DAY 8

技術 Day 8: Single-Agent vs Multi-Agent 架構的選擇指南

上一篇討論了 Semantic Kernel Plugins 的複雜參數支援,今天我們來探討另一個重要議題:在設計 AI Agent 系統時,應該選擇 Sing...

鐵人賽 AI & Data DAY 9

技術 Day 9|Prompt Engineering——設計好問題,AI 才能給好答案

延續 Day 7|Generation pipeline:AI 如何把知識取出來用 的內容,這邊要講到 Prompt Engineering,這邊會很重要的原因...

鐵人賽 DevOps DAY 8

技術 【Day 8】探討 Prompt 的生命週期:從版控、測試到部署

概述 在上一篇文章中,我們達成了一個重要的共識:Prompt 不僅是與 AI 的對話,它更是需要用工程紀律來嚴謹對待的 API 請求。我們也意識到,由多個 P...

鐵人賽 AI & Data DAY 8

技術 Day 8|檢索方式——AI 應該怎麼樣選擇「誰來幫它找資料」呢?

在 Day 7|Generation pipeline:AI 如何把知識取出來用 有說到檢索方式其實有很多種,今天就來介紹幾種常見的檢索方式。 1. TF-...

鐵人賽 Software Development DAY 22

技術 專案研討—WebSocket

前一篇在開發 Conjure Piglet Client 時,提到了第三方函式庫 WebSocket 。我一開始還一度天真地以為,我只要找一些 Neovim p...

鐵人賽 AI & Data DAY 7

技術 Day 7|Generation pipeline:AI 如何把知識取出來用

之前我們已經討論過 Indexing pipeline 是怎麼把知識存進去,現在就要來看 Generation pipeline 如何把知識「取出來用」。這邊可...

鐵人賽 生成式 AI DAY 7

技術 Day 7: Semantic Kernel Plugins 複雜性參數支援度

在前面幾天的內容中,探討了 Function Calling 的基本概念,也實作了簡單的 Plugin 來讓 AI Agent 具備調用工具的能力。但隨著業務需...