前言 想像一下，一個大型語言模型（LLM）就像一位博學多聞、記憶力驚人的天才，但他的知識卻永遠停留在了「畢業」的那一天。對於畢業後世界上發生的任何新知、或是特...
前言 在過去幾年，大型語言模型 (LLM) 的浪潮席捲全球，「提示工程 (Prompt Engineering)」迅速成為 AI 開發者與愛好者人人都需掌握的...
前言 在先前文章中，我們探討了 LLM 可觀測性平台的重要性。然而，僅僅能夠「看見」模型的行為是不夠的；我們還需要一套系統化的方法來「衡量」其優劣，這就是 L...
前言 在上一篇文章中，我們探討了 LLM 可觀測性平台的重要性。今天，我們將延伸這個主題，深入探討一個與其緊密相關且至關重要的領域：Prompt Manage...
前言 在大型語言模型（LLM）應用席捲全球的今天，如何有效監控並觀測這些「黑盒子」的行為，已成為維運團隊最迫切的挑戰。許多團隊早已建立了成熟的 Grafana...
昨天我們已經完成了最小可跑的版本，連結了查資料庫、組 prompt、請模型回答，我們現在要加上兩個功能也就是工具化（Tool）與記憶（Memory）。簡單說一下...
前言 在 LLM 應用蓬勃發展的時代，將大型語言模型（LLM）推向生產環境往往只是旅程的開始，而不是結束。想像一下，一個聊天機器人應用在內部測試中表現完美，但...
在前幾天我們完成了基本的 UI 介面與對話功能 接下來我們要透過 Gemini 的 Agent mode 完善這個 APP 首先他列出他認為還能做的功能 輸入:...
之前已經有基礎了，這次要繼續延伸做下去，後面應該也會放上我比較完整的程式碼，所以如果前面的內容已經忘光光的沒有關係，我這邊應該會打算做點整理，所以程式碼後面都會...
前言 當企業擁抱大型語言模型（LLM）的強大能力時，隨之而來的是一系列「甜蜜的煩惱」。開發團隊可能在不同專案中使用了來自 OpenAI, Anthropic,...
今天要說的就是 AI Agent 的核心模組，這邊主要是整理《The Landscape of Emerging AI Agent Architectures...
前言 大型語言模型（LLM）的驚人能力正在改變各行各業，但伴隨而來的安全風險也日益凸顯。從惡意使用者透過各種「越獄」（Jailbreaking）手段誘導模型產...
如果覺得文章對你有所啟發，可以考慮用 🌟 支持 Gthulhu 專案，短期目標是集齊 300 個 🌟 藉此被 CNCF Landscape 採納 [ref]。...
EN
‧
2025-10-06
在前面我們介紹了 RAG 與 RAGAS，這些方法主要是解決 『如何讓 LLM 回答得更正確』 的問題。但隨著應用需求不斷升級，其實不少學者也開始思考：如果我們...
前言 在 LLM 應用從小規模 PoC 走向生產環境的過程中，AI Gateway 不再只是簡單的 API 轉發器，它已經演變為關鍵的「AI 控制平面」。 選...
前言 大型語言模型（LLM）的浪潮正以前所未有的速度席捲各行各業。從 OpenAI 的 GPT 系列、Anthropic 的 Claude，到 Google...
當前，人工智慧的發展已經進入一個新紀元。從 OpenAI、Google 到 Anthropic，各大巨頭皆有能力開發出執行深度研究、編寫程式碼 (IDE) 或...
前言 在建構基於大型語言模型（LLM）的智能助手時，系統需要處理從簡單問答到複雜的 Agent 工作流（如多步驟推理、工具調用和跨代理協作）等不同任務。隨著系...
一個響亮的聲音正在科技圈迴盪：「LLM Agent 時代來臨，人類不再需要學習軟體工程了！」這個論點極具誘惑力：當一個全能的 AI 助理可以根據你的自然語言需...
概述 在當今資訊爆炸的時代，很多複雜問題都需要我們花費大量時間在網路上搜尋、閱讀和整理資訊。如果能有一個 AI 代理幫我們自動完成這些深度研究任務，將大量資料...
概述 在可觀測性的世界裡，資料可視化與使用者介面，始終是我們從龐大數據中提煉洞見的最後一哩路。這正是為什麼像 Grafana 這樣的可視化平台，即便歷經多次技...
概述 在上一篇文張中，我們透過 Google Agent 白皮書確立了一個核心共識：AI 應用的未來屬於能夠感知、思考、採取行動的智能代理（Agent）。而一...
前言 許多開發者初次接觸 AI Agent，會被 ReAct (Reasoning and Acting) 框架的簡潔與強大所吸引，並迅速用幾十行程式碼實現一...
前言 在先前關於 Google Agent 白皮書的探討中，我們觸及了一個核心觀點：一個大型語言模型（LLM）之所以能被稱為「Agent」（代理人），其關鍵區...
概述 在過去短短兩年裡，大型語言模型（LLM）應用經歷了一場驚人的蛻變。我們從驚嘆於 ChatGPT 能寫詩作對、回答知識性問題的「聊天機器人」時代，迅速躍遷...
概述 在上一篇文章中，我們達成了一個重要的共識：Prompt 不僅是與 AI 的對話，它更是需要用工程紀律來嚴謹對待的 API 請求。我們也意識到，由多個 P...
概述 在先前的章節中，我們已經深入探討了大型語言模型（LLM）在可觀測性領域中的定位與重要性。我們認識到：LLM 可觀測性的核心，在於如何評估其輸出的不確定性...
概述 在上一篇文章中，我們深入探討了 LLM 應用的獨特性。它是一個機率性的、以語義為核心的「黑盒子」。我們意識到，傳統的監控手段已無法應對其在遙測、輸出、成...
概述 在過去幾篇文章中，我們從傳統監控一路聊到「可觀測性 2.0」，並探討了為何像 ClickHouse 這樣的 OLAP 資料庫會成為新時代的基石。這一切的...
概述 在上一篇文章中，我們探討了從傳統監控邁向『可觀測性 2.0』的關鍵轉變，其核心在於能夠應對海量、高基數的遙測資料，並進行即時的探索式分析。這對後端的資料...
mikehsu0618
otterday
onedream
iThome鐵人賽
看影片追技術