iT邦幫忙

2025 iThome 鐵人賽

DAY 9
0

從理論到實戰的關鍵一步

經過前面八天的學習,我們深入理解了 Context Rot 現象、RAG 技術,以及 Context Engineering 的完整藍圖。但理論再完美,沒有系統性的實作方法論,依然無法解決真實世界的問題。

今天我們要探討的是:當 AI Agent 需要處理長期、複雜任務時,如何系統性地管理 Context,避免記憶混亂和效能衰退。

LangChain 團隊基於大量實戰經驗,歸納出了四大 Context 管理策略:Write、Select、Compress、Isolate
https://ithelp.ithome.com.tw/upload/images/20250923/20178806NZ3bQVA9cH.png


先來回顧 Agent 長期執行的三大挑戰

挑戰一:記憶容量有限

AI 的 context window 就像電腦的 RAM,總有用完的時候。一個處理客戶關係的 Agent,可能在第 10 天就開始忘記第 1 天收集的重要客戶資訊。

挑戰二:成本與速度問題

Context 越長,每次 API 呼叫就越貴,回應也越慢。一個需要處理 50 頁報告的 Agent,可能每次回應都要等 30 秒以上。

挑戰三:資訊干擾

還記得 Day 4 的干擾實驗嗎?即使只有幾個相似的錯誤資訊,都能讓最先進的 AI 開始胡言亂語。Context 太多時,AI 容易被無關資訊帶偏。


策略一:Write - 把記憶寫到外面

核心概念:既然 AI 的腦容量有限,那就給它一個外接硬碟

Scratchpads:AI 的工作筆記

Scratchpads 就像 AI 的隨身筆記本。當 AI 在執行長期任務時,會把中間的思考過程、發現的重點、待辦事項都寫在這個筆記本裡。

實際用法:

  • 程式審查 Agent:把每個檔案的問題記錄在 scratchpad,最後統整時直接讀取,不用重新分析
  • 市場研究 Agent:分天記錄競爭對手資料、客戶訪談、趨勢分析,建立完整的研究檔案

Memories:長期記憶庫

這是跨對話的記憶系統,讓 AI 能記住重要的事情:

用戶偏好記憶:記住你喜歡什麼樣的回覆格式、溝通風格
專業知識記憶:記住公司的規則、行業的特殊要求
經驗記憶:記住什麼方法有效、什麼策略失敗過

State:當前狀態追蹤

在執行複雜任務時,State 系統會記錄「現在做到哪裡了」「下一步要做什麼」,確保任務不會中斷或重複。

策略二:Select - 只拿需要的資訊

核心概念:不是資訊越多越好,而是要精準選擇相關的內容

智慧工具選擇

當 AI 有 100 種工具可用時,需要聰明地挑選:

  • 先根據任務類型粗篩(做資料分析就不需要圖片處理工具)
  • 再根據具體需求細選(要做統計分析還是視覺化?)
  • 最後考慮成本和速度做最終決定

從記憶中檢索重點

  • 從 Scratchpad 找資料:根據時間、標籤、關鍵字快速找到相關筆記
  • 從 Memories 找經驗:調出類似任務的成功案例和用戶偏好
  • 從知識庫找答案:這就是我們 Day 7 談過的 RAG 技術

策略三:Compress - 資訊減肥術

核心概念:保留精華,丟掉冗餘

對話歷史摘要

長期對話會累積很多內容,摘要策略可以大幅「減肥」:

  • 最近的對話:完整保留最近 5-10 輪對話
  • 稍早的對話:摘要成重點和決策
  • 很久的對話:只保留重要結論和關鍵事實

動態內容修剪

AI 會評估每段資訊的重要程度:

  • 跟當前任務最相關的優先保留
  • 太舊的資訊降低權重
  • 使用者特別標記的重要內容一定保留
  • 有邏輯關聯的資訊群組整個保留

知識精煉

把複雜的分析報告「蒸餾」成精華:

  • 提取核心發現(最重要的 3-5 個洞察)
  • 保留關鍵數據(支撐結論的具體數字)
  • 生成行動建議(可以立即執行的 2-3 個建議)

策略四:Isolate - 分工合作

核心概念:複雜任務分給不同專家處理,避免單一 AI 超載

專業分工體系

就像公司的部門分工:

  • 研究部門:專門收集資料和外部資訊
  • 分析部門:專門處理數據分析和洞察生成
  • 執行部門:專門負責具體操作和工具使用
  • 協調部門:負責整合各部門的工作成果

Context 隔離效果

每個專業 AI 只處理自己領域的資訊,就像:

  • 研究員不需要知道怎麼做圖表
  • 分析師不需要了解資料收集的技術細節
  • 執行者不需要理解複雜的分析邏輯

從個人助手到智慧團隊

系統化代表了 AI 應用的重要進化:

過去:AI 是個人助手,每次對話都要重新開始
現在:AI 是智慧團隊,有記憶、有分工、能協作

這套方法讓 AI 不再局限於簡單的問答,而是能處理複雜的業務流程和長期任務。

從碰運氣的賭徒,到掌握方法的煉金師,再到現在的系統架構師——我們對 AI 的掌控能力正在快速進化。

下一步,我們將探索更進階的 Agent 協作模式,看看如何讓多個 AI 像真正的團隊一樣協同工作,創造出超越個體能力的集體智慧。


上一篇
煉金師的全域視野 - Context Engineering 的完整藍圖
系列文
不只是反覆 TRY AGAIN,煉金師懂得調配試煉的秘方。9
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言