iT邦幫忙

llm相關文章
共有 323 則文章

技術 [POG-08] 破除迷思:Prompt Orchestration Governance(POG) 常見問題 (FAQ) 大解析

當你想在團隊推動 POG 時,幾乎一定會聽到的幾個問題 在引入任何新框架或流程時,來自團隊的質疑是不可避免的,甚至是健康的。它迫使我們把「為什麼」思考得更清楚。...

技術 [POG-07] 觀念釐清:POG vs. PDD vs. PDE,解讀 AI 開發的「方法論全家桶」

AI 開發的「字母湯」:我們在談論的到底是什麼? 隨著 AI 工程化的趨勢日益成熟,一系列縮寫詞開始出現,讓許多團隊感到困惑:POG, PDD, PDE......

技術 [POG-06] Prompt Library 與 SDLC 整合策略:讓高品質 Prompt 成為開發流程的內建加速器

Prompt Warehouse 裡的資產,如何在戰場上發揮價值? 在上一篇文章中,我們探討了如何透過 Prompt Warehouse Management...

技術 [POG-05] Prompt Warehouse Management:從雜亂無章到井然有序的四個步驟

一個好的 Prompt Warehouse,重點不在「儲存」,而在「流程」 我們已經知道,Prompt Warehouse Management (PWM) 是...

技術 [POG-04] POG 雙重架構深度解析:支撐 Prompt 資產化與規模化應用的兩大支柱

從混亂到秩序,你需要的不只是一個倉庫 我們已經建立了共識:Prompt 應該被當作「一級軟體資產」來管理。但一個很自然的問題是:「具體該怎麼做?」 僅僅建立一個...

技術 [POG-03] Prompts 作為一級軟體資產:別再把你的黃金當石頭丟

軟體工程史上,我們曾經走過的路 在軟體工程的發展歷程中,我們不斷學習如何將「重要的東西」資產化。 程式碼:從不可重複使用的,演變為透過 Git 進行版本控制...

技術 [POG-02] AI 開發中的碎片化挑戰:為什麼你的 Prompt 像失控的樂高積木?

當每個 AI 功能都像一次性手作 在導入生成式 AI 的初期,我們都經歷過那段充滿驚喜的「手作坊」時期。工程師或產品經理像變魔術一樣,用一句精巧的 promp...

技術 [POG-01] 什麼是 Prompt Orchestration Governance(POG)?

為什麼它會成為下一代 AI 系統工程的核心能力 在生成式 AI 與大型語言模型(LLM)快速普及的今天,越來越多團隊開始意識到一個現象:真正影響系統品質與行為...

技術 一個月從 61 到 161 commits:Claude Code 如何讓我同時推進 6 個專案

本文章用 Claude 協助產生,當然都是我個人故事下方數據是來自我開發 5 年的 SideProject - Minecraft 5v5 PvP 專案:...

技術 人工智慧模型 LLM (單一模型) 與 人工智慧代理 AI Agent(人工智慧代理)是什麼?兩者之間的關鍵差異?

LLM(Large Language Model) 本質上是一個經過巨量文本數據訓練的深度學習模型(通常是基於 Transformer 架構)。它的核心能力是:...

鐵人賽 AI & Data DAY 30

技術 【Day 30】Notion × LLM 系列最終章:從筆記到對話,30 天的蛻變

在這次鐵人賽開始之前,我的目標其實很單純:讓 Notion 筆記不只是儲存資訊,而是能主動回應問題。 30 天過去了,我們從零開始,經歷了資料結構設計、向量化、...

鐵人賽 Modern Web DAY 30

技術 旅程的終點與起點 - AI 面試官專案全貌回顧

前言 歡迎來到最後一天!照過往參賽的邏輯,今天都會是一個反省與回顧的好日子,我個人的回顧比較沒人在乎,會放在文章結束前,我們主要還是先回顧一下這30天來我們究竟...

鐵人賽 生成式 AI DAY 30

技術 Day 30: 最後一篇用軟性文章來結束這次的鐵人賽吧 - AI 重塑程式設計

今天是鐵人賽的最後一天,我想用一篇軟性文章來總結這次的旅程,並分享我對 AI 如何影響程式設計的看法。 從內容生成到智能協作的演進 這三年來,LLM 的應用經歷...

鐵人賽 DevOps DAY 30

技術 【Day 30】完賽心得:當你凝視深淵,深淵也凝視著你

完賽心得 鐵人賽挑戰的最後一天終於到來了。相比於去年的參賽經驗,我今年投入了更多的時間和精力,即便提前兩個半月開始準備,依然寫到了最後一天才完成所有內容。 最...

鐵人賽 DevOps DAY 29

技術 【Day 29】LLM 可觀測性與架構演進:從零到可治理、可優化、可規模化

前言 感謝陪伴著我近一個月的鐵人勇者們,再堅持一下我們快到終點了! 我們的旅程始於可觀測性,並以此為基點,深入到了 LLM 與 AI 應用的多個進階議題。這麼...

鐵人賽 AI & Data DAY 29

技術 【Day 29】Notion RAG 系統 - 完整 Metadata 整合與 UI 優化

在 Day 28,我們成功修復了向量資料庫的結構問題,讓資料流從 SQLite 到 ChromaDB 重新順暢起來。不過當我們開啟 Streamlit App...

鐵人賽 生成式 AI DAY 29

技術 Day 29: Semantic Kernel Multi-Agent 實戰 — SEO 文案創作產生器

在數位行銷的世界中,如何撰寫既符合 SEO 規範又能打動目標受眾的產品文案,是每個行銷人員面臨的挑戰。今天就用這個主題實作一個「SEO 文案創作產生器」概念,透...

鐵人賽 DevOps DAY 28

技術 【Day 28】深入向量資料庫:理解 RAG 在 AI 時代依然至關重要

前言 前些陣子,社群上開始興起了 RAG 已死的言論,因為主流大模型的 Token 窗口已經大幅度的成長到百萬級別,足以消化大部分的資料並即時回應。這也使得一...

鐵人賽 生成式 AI DAY 28

技術 Day 28: Semantic Kernel Multi-Agent 實戰 — 新聞內容嚴謹度評估系統

在資訊爆炸的時代,如何快速判斷新聞的可信度與嚴謹程度成為重要課題。今天要實作一個「新聞嚴謹度評估系統」,透過 Semantic Kernel Multi-Age...

鐵人賽 生成式 AI DAY 27

技術 Day 27: Semantic Kernel Multi-Agent 實戰 — 打造 PTT 熱門關鍵話題擷取系統

以 Semantic Kernel Agent Orchestration 為核心,結合 LLM 語言能力打造「輿情收集與初步分析系統」。以這樣的概念,來實作透...

鐵人賽 DevOps DAY 27

技術 【Day 27】從 RAG 到 Agentic RAG:解放知識庫的真正潛力

前言 想像一下,一個大型語言模型(LLM)就像一位博學多聞、記憶力驚人的天才,但他的知識卻永遠停留在了「畢業」的那一天。對於畢業後世界上發生的任何新知、或是特...

鐵人賽 生成式 AI DAY 26

技術 Day 26: Semantic Kernel 無縫整合 Azure AI Foundry Agent - 企業助理實作

Azure AI Foundry 是微軟提供的一站式 AI 開發與管理平台,讓建構、部署與管理 AI 解決方案都可以在一個平台裡被建立及管理,過去常聽到的 Az...

鐵人賽 DevOps DAY 26

技術 【Day 26】探討 Context Engineering:打造新一代 AI 應用的核心引擎

前言 在過去幾年,大型語言模型 (LLM) 的浪潮席捲全球,「提示工程 (Prompt Engineering)」迅速成為 AI 開發者與愛好者人人都需掌握的...

鐵人賽 AI & Data DAY 25

技術 【Day 25】Notion Chatbot 對話記憶與來源追蹤的設計優化:打造真正的知識助理

在 Day 24,我們打造了第一個可以「對話」的 Notion × LLM 助理,讓使用者能直接用自然語言從筆記中搜尋答案。但實際使用後我發現,它仍然比較像是「...

鐵人賽 DevOps DAY 25

技術 【Day 25】從可觀測性到持續優化:深入 LLM Evaluation 的藝術與實踐

前言 在先前文章中,我們探討了 LLM 可觀測性平台的重要性。然而,僅僅能夠「看見」模型的行為是不夠的;我們還需要一套系統化的方法來「衡量」其優劣,這就是 L...

鐵人賽 生成式 AI DAY 25

技術 Day 25: Semantic Kernel 無縫整合 OpenAI Assistant Agent - 智能客服系統實作

可能很多人不知道,OpenAI 有一個 Assistant Agent 的功能,它是由 OpenAI 平台託管的 AI Agent,能夠在雲端長期運作,並與使用...

鐵人賽 DevOps DAY 24

技術 【Day 24】從程式碼到資產:深入 Prompt Management 的藝術與實踐

前言 在上一篇文章中,我們探討了 LLM 可觀測性平台的重要性。今天,我們將延伸這個主題,深入探討一個與其緊密相關且至關重要的領域:Prompt Manage...

鐵人賽 生成式 AI DAY 24

技術 Day 24: Semantic Kernel 使用 Stdio 模式串接 MCP Server

在 Day 23 中,介紹如何使用 Semantic Kernel 使用 Streamable HTTP 模式串接 MCP Server ,今天來另一種 Std...

鐵人賽 DevOps DAY 23

技術 【Day 23】導入 LLM 可觀測性不需從頭開始:善用 OpenTelemetry 完美整合現有架構

前言 在大型語言模型(LLM)應用席捲全球的今天,如何有效監控並觀測這些「黑盒子」的行為,已成為維運團隊最迫切的挑戰。許多團隊早已建立了成熟的 Grafana...

鐵人賽 生成式 AI DAY 23

技術 Day 23: Semantic Kernel 使用 Streamable HTTP 模式串接 MCP Server

在 Day 22 我們介紹了 MCP 的基本概念和核心組成,今天直接來實作一個簡單的範例,使用 Microsoft 的 Semantic Kernel 來串接一...