iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

模型動不了,那你能動什麼?AI Engineering 四層工程觀:Prompt、Context、Harness、Loop 系列

模型是別人訓練的,你動不了。但從模型到能穩定運作的 AI 系統之間,有四層你能動的工程槓桿。這 30 天沿抽象層次往上走:Prompt Engineering,從 Transformer 機制理解 prompt 為何有效、極限在哪;Context Engineering,以 RAG、記憶與 Compaction 決定窗口放什麼;Harness Engineering,用 Session、Tool、Permission、Skills 打造模型外的執行系統;Loop Engineering,靠評估與可觀測性讓系統持續變好。

參賽天數 20 天 | 共 20 篇文章 | 4 人訂閱 訂閱系列文 RSS系列文
DAY 11

Day 11|記憶的檢索:寫入和搜尋是同一個決策

昨天講了誰決定什麼值得記,今天講存進去的東西怎麼被找到。這兩件事表面上是兩個獨立的設計,把昨天那批系統的檢索設計對照著看會發現:搜尋方式幾乎完全由寫入內容決定。...

2026-08-13 ‧ 由 yujunwen0517 分享
DAY 12

Day 12|記憶的生命週期:誰決定一條記憶的死亡

寫入和檢索都講完了,還剩一個常被跳過的維度:時間。一個 agent 跑了三個月,記憶庫裡同時躺著三個月前的「使用者偏好 Python」和昨天的「幫我查一下天氣」...

2026-08-14 ‧ 由 yujunwen0517 分享
DAY 13

Day 13|Compaction:你的 Agent 為什麼越跑越貴

記憶三部曲處理的是萃取後的知識,今天回頭處理原料本身:窗口裡那一大坨對話歷史和工具輸出。Compaction(壓縮)指的就是把這些累積的歷史變小的工程。先把問題...

2026-08-15 ‧ 由 yujunwen0517 分享
DAY 14

Day 14|Context 的極限:策略沒有執行者,就只是願望

Context Engineering(這系列的 L2)走了七天:窗口經濟學、檢索、記憶三部曲、壓縮。照 Day 7(Prompt 的極限)的慣例,離開一層之前...

2026-08-16 ‧ 由 yujunwen0517 分享
DAY 15

Day 15|Harness Engineering:AI 工程師的第三個維度

昨天欠下的債今天開始還。Context Engineering(這系列的 L2)的每個策略都需要窗口外面的系統去執行,那套系統有名字:Harness。從今天起...

2026-08-17 ‧ 由 yujunwen0517 分享
DAY 16

Day 16|Session 設計:從無狀態函數到有頭有尾的對話

昨天說 session 是 harness 的地基,今天把它蓋起來。先講清楚問題:使用者跟 agent 工作到一半,關筆電下班,明天打開希望「接著昨天的進度繼續...

2026-08-18 ‧ 由 yujunwen0517 分享
DAY 17

Day 17|Tool Design:為什麼工具越多,Agent 越選錯

大部分人設計 agent 的思路是加功能:需要搜尋就加搜尋工具、需要查日曆就加日曆工具。工具清單就這樣長到十幾二十個,然後一件事悄悄發生:agent 還是在呼叫...

2026-08-19 ‧ 由 yujunwen0517 分享
DAY 18

Day 18|Agentic Loop:Agent 的心臟怎麼跳

昨天說工具只是一張能力清單,agent 真正跑起來靠的是一個循環:模型看著當前的 context 決定下一步、系統執行它選的工具、結果回到窗口、模型再決定下一步...

2026-08-20 ‧ 由 yujunwen0517 分享
DAY 19

Day 19|錯誤即體驗:Agent 的錯誤哲學與三條信任邊界

昨天 loop 把能自己消化的錯分好了類,今天講要見人的那一半。場景:agent 的工具呼叫外部 API,回了 404。照 backend 的直覺,except...

2026-08-21 ‧ 由 yujunwen0517 分享
DAY 20

Day 20|Skills:把「怎麼做事」打包成模組

Agent 有了 session、工具、權限,還有一種東西沒有著落:方法。你的團隊部署服務有一套固定流程、review 程式碼有一份檢查清單、寫報告有慣用的結構...

2026-08-22 ‧ 由 yujunwen0517 分享