概述 在先前的章節中，我們已經深入探討了大型語言模型（LLM）在可觀測性領域中的定位與重要性。我們認識到：LLM 可觀測性的核心，在於如何評估其輸出的不確定性...
上一篇的內容提到如何撰寫與掛載 Plugins（Tools） 到 Semantic Kernel 中，除了 Plugins（Tools） 的設計與實作之外，控制...
概述 在上一篇文章中，我們深入探討了 LLM 應用的獨特性。它是一個機率性的、以語義為核心的「黑盒子」。我們意識到，傳統的監控手段已無法應對其在遙測、輸出、成...
新來的朋友，一樣先建議先回顧先前的文章，才會比較明白整個 Indexing pipeline 的流程以及這章是在哪個環節噢！文章在這：Day 3｜Indexin...
概述 在過去幾篇文章中，我們從傳統監控一路聊到「可觀測性 2.0」，並探討了為何像 ClickHouse 這樣的 OLAP 資料庫會成為新時代的基石。這一切的...
延續昨天的 AI Agent Tools 設計原則，今天將透過實際的程式碼範例深入實作層面，介紹如何使用 Semantic Kernel 撰寫 Tools（工具...
怕大家突然看到這篇會不知道為什麼跳到這部分，如果是新來的朋友想了解詳細流程，可以先回顧我之前第三天的文章：Day 3｜Indexing pipeline：如何為...
在前兩天的內容中，探討了 AI Agent 的概念以及 Semantic Kernel 的 Function Calling 機制，並且討論了並非所有 LLM...
昨天把 Indexing pipeline 跑過一遍：從資料載入、Chunking、Embeddings，到向量資料庫。要讓 RAG 找到「對的內容」，關鍵在第...
概述 在上一篇文章中，我們探討了從傳統監控邁向『可觀測性 2.0』的關鍵轉變，其核心在於能夠應對海量、高基數的遙測資料，並進行即時的探索式分析。這對後端的資料...
哈囉鐵人們！現在此App是一個非常出色的單機版應用～它功能豐富、體驗流暢，甚至還能離線使用。但它有一個天生的「地域限制」——那就是所有的使用者資料，如那些特別收...
昨天看到 RAG 架構，今天要更深入，看看如何建立知識庫。 我們先看這張圖來逐一拆解他的步驟：來源:Build a Retrieval Augmented Ge...
前言 歡迎來到第三天！賽程雖然才剛開始，但說實在話我已經累了:P 每次參賽前我都在心裡發誓一定要有一些存稿再來參加，結果每次參賽都是裸賽當天拚生死，怪不得當初研...
在前兩天的內容中，寫了 AI Agent 的概念以及 Semantic Kernel 的 Function Calling 機制。但隨著 AI Agent 概念...
概述 天下分久必合，合久必分。軟體世界從不缺乏閃亮的新名詞，尤其在微服務與雲原生逐漸成為主流的這些年，可觀測性（Observability） 和 分佈式追蹤（...
昨天我們提到 LLM 有三個限制：資料過時、資料來源有限，以及容易產生幻覺。今天要介紹的 RAG（Retrieval-Augmented Generation）...
在聊到 AI Agent 的核心能力時，「Function Calling（功能調用）」幾乎是繞不開的一塊。這個機制讓大型語言模型（LLM）不再只是個文字生成器...
概述 多年來，IT 監控以各種方式被應用和部署。其核心目的是收集有關不只是 IT 基礎設施以及雲原生服務的硬體和軟體運作指標，確保所有關鍵功能都能順利運作，進...
在第一天，我想先從基礎先談起。大家可能都聽過生成式 AI 像是 （ChatGPT），有時候使用完他可能也是在「亂編答案」，不見得能夠一步到位就生成你想要的問題，...
2025鐵人賽Day 1 前言 各位好！我是Danny！終於又再次來到鐵人賽了，原本去年就有打算繼續參賽，但眾多因素混在一起導致根本沒有心力參加，絕對不是我當時...
這幾年來，生成式 AI 的應用一路從產出文字、圖片，逐步進化到「做事」的 AI Agent。這個發展過程真的很有趣，AI 從「會聊天的模型」變成「會幫你做事的助...
前言 2025 年可以說是 LLM 應用真正大放異彩的一年。原因在於，LLM 的使用場景早已不再侷限於像 ChatGPT 這樣的網頁聊天視窗，如今它已經延伸到...
歡迎來到本系列 歡迎來到 「Notion 遇上 LLM：30 天打造我的 AI 知識管理系統」。在接下來的一個月裡，我會帶你一步步實作，從需求分析、系統架構設計...
HI！大家好，我是 Shammi 😊 在昨天開發的時候，AI 對話機器人已經學會了「查閱」知識庫，能夠從海量資訊中精準地找出最相關的 SDGs 內容。 BUT！...
什麼是大型語言模型（LLM）？ 大型語言模型的本質，其實就是一個能根據提示詞與前文脈絡，持續預測下一個 token 的深度學習模型。它的訓練方式，是先吃進海量...
當 LLM 可以快速協助開發API 後，接著又想打它的主意:幫忙AI化系統。早期是逐步將繁雜的系統"API化"，但現在可能要朝系統&quo...
前陣子透過 chatgpt 語音對話功能，發現可以使用台語對話 (台語語音輸入 -> 台語語音輸出)。 若想在本地端搭建模型實現，想請教有沒有開源的模型可...
以下是 OWASP 在 2024 年 11 月提出的 2025 版針對大型語言模型（LLM）應用的十大主要安全風險 1. 提示注入攻擊 (Prompt Inj...
前面介紹的方法又是擴增一堆訓練數據集，又是 ensemble 一堆不同架構、不同訓練方法的模型，真的心滿累的。 所以，今天要跟大家分享的是本次賽題第八名的作法，...
今天來學習一下第一名和第三名包山包海的 ensemble 大法。 🥇1st Solution 第一名的解法不愧是第一名，他們真的花好多 effort 在解這個賽...
mikehsu0618
Ian
otterday
Sonia
windate3411
Nikki Chen
shammi
壓縮甜
iThome鐵人賽
看影片追技術