iT邦幫忙

llm相關文章
共有 231 則文章
鐵人賽 Software Development DAY 22

技術 專案研討—WebSocket

前一篇在開發 Conjure Piglet Client 時,提到了第三方函式庫 WebSocket 。我一開始還一度天真地以為,我只要找一些 Neovim p...

鐵人賽 生成式 AI DAY 7

技術 Day 7: Semantic Kernel Plugins 複雜性參數支援度

在前面幾天的內容中,探討了 Function Calling 的基本概念,也實作了簡單的 Plugin 來讓 AI Agent 具備調用工具的能力。但隨著業務需...

鐵人賽 DevOps DAY 7

技術 【Day 7】探討 Prompt Engineering:LLM 的入門磚

概述 在先前的章節中,我們已經深入探討了大型語言模型(LLM)在可觀測性領域中的定位與重要性。我們認識到:LLM 可觀測性的核心,在於如何評估其輸出的不確定性...

鐵人賽 生成式 AI DAY 6

技術 Day 6: Semantic Kernel Function Choice Behavior 深度解析:精確控制 AI Agent 的函式呼叫行為

上一篇的內容提到如何撰寫與掛載 Plugins(Tools) 到 Semantic Kernel 中,除了 Plugins(Tools) 的設計與實作之外,控制...

鐵人賽 DevOps DAY 6

技術 【Day 6】OpenTelemetry 對於 LLM 可觀測性的重要性

概述 在上一篇文章中,我們深入探討了 LLM 應用的獨特性。它是一個機率性的、以語義為核心的「黑盒子」。我們意識到,傳統的監控手段已無法應對其在遙測、輸出、成...

鐵人賽 DevOps DAY 5

技術 【Day 5】認識 LLM 可觀測性:迎接挑戰的第一課

概述 在過去幾篇文章中,我們從傳統監控一路聊到「可觀測性 2.0」,並探討了為何像 ClickHouse 這樣的 OLAP 資料庫會成為新時代的基石。這一切的...

鐵人賽 生成式 AI DAY 5

技術 Day 5: Semantic Kernel 實戰:詳解 Tools 的撰寫與掛載技巧

延續昨天的 AI Agent Tools 設計原則,今天將透過實際的程式碼範例深入實作層面,介紹如何使用 Semantic Kernel 撰寫 Tools(工具...

鐵人賽 生成式 AI DAY 4

技術 Day 4: 從 Anthropic 經驗看 AI Agent 的 Tools 設計與挑戰

在前兩天的內容中,探討了 AI Agent 的概念以及 Semantic Kernel 的 Function Calling 機制,並且討論了並非所有 LLM...

鐵人賽 AI & Data DAY 4

技術 Day 4|Embedding 是什麼?——如何把文字變成數字空間

昨天把 Indexing pipeline 跑過一遍:從資料載入、Chunking、Embeddings,到向量資料庫。要讓 RAG 找到「對的內容」,關鍵在第...

鐵人賽 DevOps DAY 4

技術 【Day 4】可觀測性2.0的明日之星 - ClickHouse

概述 在上一篇文章中,我們探討了從傳統監控邁向『可觀測性 2.0』的關鍵轉變,其核心在於能夠應對海量、高基數的遙測資料,並進行即時的探索式分析。這對後端的資料...

鐵人賽 Mobile Development DAY 19

技術 30 天做一個極簡App:多端同步 - Firebase Firestore與Auth

哈囉鐵人們!現在此App是一個非常出色的單機版應用~它功能豐富、體驗流暢,甚至還能離線使用。但它有一個天生的「地域限制」——那就是所有的使用者資料,如那些特別收...

鐵人賽 Modern Web DAY 3

技術 設計我們的面試系統:提出基本架構設計

前言 歡迎來到第三天!賽程雖然才剛開始,但說實在話我已經累了:P 每次參賽前我都在心裡發誓一定要有一些存稿再來參加,結果每次參賽都是裸賽當天拚生死,怪不得當初研...

鐵人賽 生成式 AI DAY 3

技術 Day 3:不是所有 LLM 應用都需要成為 Agent - 選擇合適的架構設計

在前兩天的內容中,寫了 AI Agent 的概念以及 Semantic Kernel 的 Function Calling 機制。但隨著 AI Agent 概念...

鐵人賽 DevOps DAY 3

技術 【Day 3】傳統可觀測性與可觀測性 2.0:只是另一個 Buzzword?

概述 天下分久必合,合久必分。軟體世界從不缺乏閃亮的新名詞,尤其在微服務與雲原生逐漸成為主流的這些年,可觀測性(Observability) 和 分佈式追蹤(...

鐵人賽 AI & Data DAY 2

技術 Day 2|RAG 的基本架構

昨天我們提到 LLM 有三個限制:資料過時、資料來源有限,以及容易產生幻覺。今天要介紹的 RAG(Retrieval-Augmented Generation)...

鐵人賽 生成式 AI DAY 2

技術 Day 2:Function Calling — Semantic Kernel 如何讓 AI Agent 動起來?

在聊到 AI Agent 的核心能力時,「Function Calling(功能調用)」幾乎是繞不開的一塊。這個機制讓大型語言模型(LLM)不再只是個文字生成器...

鐵人賽 DevOps DAY 2

技術 【Day 2】可觀測性與監控是什麼?

概述 多年來,IT 監控以各種方式被應用和部署。其核心目的是收集有關不只是 IT 基礎設施以及雲原生服務的硬體和軟體運作指標,確保所有關鍵功能都能順利運作,進...

鐵人賽 AI & Data DAY 1

技術 Day 1|什麼是 RAG?

在第一天,我想先從基礎先談起。大家可能都聽過生成式 AI 像是 (ChatGPT),有時候使用完他可能也是在「亂編答案」,不見得能夠一步到位就生成你想要的問題,...

鐵人賽 Modern Web DAY 1

技術 我不是AI專家,但我能打造AI應用:環境設置

2025鐵人賽Day 1 前言 各位好!我是Danny!終於又再次來到鐵人賽了,原本去年就有打算繼續參賽,但眾多因素混在一起導致根本沒有心力參加,絕對不是我當時...

鐵人賽 生成式 AI DAY 1

技術 Day 1: 踏入 AI Agent 的世界 - 認識 Semantic Kernel

這幾年來,生成式 AI 的應用一路從產出文字、圖片,逐步進化到「做事」的 AI Agent。這個發展過程真的很有趣,AI 從「會聊天的模型」變成「會幫你做事的助...

鐵人賽 DevOps DAY 1

技術 【Day 1】探索 LLM 可觀測性之旅

前言 2025 年可以說是 LLM 應用真正大放異彩的一年。原因在於,LLM 的使用場景早已不再侷限於像 ChatGPT 這樣的網頁聊天視窗,如今它已經延伸到...

鐵人賽 AI & Data DAY 1

技術 【Day 1】系列開場 - Notion 遇上 LLM

歡迎來到本系列 歡迎來到 「Notion 遇上 LLM:30 天打造我的 AI 知識管理系統」。在接下來的一個月裡,我會帶你一步步實作,從需求分析、系統架構設計...

鐵人賽 Software Development DAY 10

技術 Day 10【LLM 整合】串接大型語言模型:讓機器人具備生成回覆的能力

HI!大家好,我是 Shammi 😊 在昨天開發的時候,AI 對話機器人已經學會了「查閱」知識庫,能夠從海量資訊中精準地找出最相關的 SDGs 內容。 BUT!...

技術 模型當初階客服助理- MCP和LLM搭配實作與外部註冊服務工具

當 LLM 可以快速協助開發API 後,接著又想打它的主意:幫忙AI化系統。早期是逐步將繁雜的系統"API化",但現在可能要朝系統&quo...

技術 請教台語語音模型 (STS, STT)

前陣子透過 chatgpt 語音對話功能,發現可以使用台語對話 (台語語音輸入 -> 台語語音輸出)。 若想在本地端搭建模型實現,想請教有沒有開源的模型可...

技術 2025 版 OWASP 針對 LLM 應用十大風險總結

以下是 OWASP 在 2024 年 11 月提出的 2025 版針對大型語言模型(LLM)應用的十大主要安全風險 1. 提示注入攻擊 (Prompt Inj...

鐵人賽 AI/ ML & Data DAY 30

技術 [Day 30]告別複雜巨獸 - 一起看第八名的小清新解法與IT鐵人賽後回望

前面介紹的方法又是擴增一堆訓練數據集,又是 ensemble 一堆不同架構、不同訓練方法的模型,真的心滿累的。 所以,今天要跟大家分享的是本次賽題第八名的作法,...

鐵人賽 AI/ ML & Data DAY 29

技術 [Day 29]模型與資料的超級 ensemble 體 - 淺談 Curriculum Learning 訓練方法與 Ghostbuster (捉鬼人)如何識別 AI 和人類作文

今天來學習一下第一名和第三名包山包海的 ensemble 大法。 🥇1st Solution 第一名的解法不愧是第一名,他們真的花好多 effort 在解這個賽...

鐵人賽 AI/ ML & Data DAY 27

技術 [Day 27]照妖(AI)鏡下的秘密-利用TF-IDF、BPE編碼、Kmeans Cluster和DetectGPT技術區分人類與AI寫作

標題提到一堆技術名詞...別擔心,今天都會串起來,像一個偵探故事一樣,每種技術都是線索,幫助我們揪出到底誰找 AI 當槍手。👀 前言 昨天我們聊到僅用「錯字率」...