iT邦幫忙

2026 iThome 鐵人賽

DAY 28
1

第二篇聚焦的是 AI 工程基礎,重點不只是讓模型「會回答」,而是讓 AI 能被穩定地整合進網站架構,成為可控、可擴展、可驗證的系統能力。內容從提示工程出發,逐步延伸到上下文工程、工具與 Agent 架構,以及 Harness 工程,完整說明一個 AI 網站應用要如何從概念走向落地。

首先在「提示到上下文工程」這一部分,核心觀念是:提示工程只是起點,真正決定 AI 上限的是上下文如何被組織、傳遞與管理。這裡會說明 API 中訊息列表的角色、上下文壓縮策略、知識庫與 RAG 如何支撐跨會話記憶,讓網站不只是單次問答,而能延續使用者狀態、業務脈絡與歷史資訊。對客服、導購、知識助理與內容生成類網站來說,這是影響體驗與準確度的關鍵。

接著是工具與 Agent 架構。當 AI 進入網站系統後,它不能只生成文字,還必須能調用工具、讀寫資料、觸發流程,甚至協助程式生成。因此這一部分會介紹工具設計的通用原則、五類工具的分類、MCP 協定作為工具互操作標準,以及 ReAct 迴圈如何讓 Agent 在思考、行動與觀察之間持續運作。這些能力讓 AI 從「回答問題的模型」進化成「能執行任務的系統成員」。

最後是 Harness 工程,這部分強調 AI 上線所需要的控制框架。Harness 包含 Context、Tools、Constrain、Verify、Correct 五個要素,目的在於限制模型輸出風險、驗證執行結果、並在出錯時能自動糾正。透過約束機制、輸入隔離、結果校驗、熔斷器與錯誤恢復,網站可以把 AI 能力包在可治理的流程中,避免模型直接影響核心業務。

整體來說,這一篇要傳達的是:AI 工程的重點不在於把模型接上網站,而在於建立一套完整的工程方法,讓 AI 能理解上下文、使用工具、遵守規則,並在真實網站架構中穩定運行。


上一篇
day 27: 軟體服務功能到改良與維護
下一篇
day 29 : AI 實務開發流程
系列文
30 天打造我的個人雲端實驗室:用 Docker、Kubernetes、Flyte 和自建服務,重構手機與電腦的日常工作流 共 38 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言