iT邦幫忙

2025 iThome 鐵人賽

DAY 3
0
生成式 AI

LLM - Zero to Hero or Give Up ?系列 第 3

【Day03】情境工程(Context Engineering)

  • 分享至 

  • xImage
  •  

介紹

如果你什麼資訊都不提供,你怎麼能期待 AI 產出你想要的東西?但,到底要提供什麼資訊同時又要避免爲了提供足夠的資訊反而造成開發上的負擔呢?

情境工程(Context Engineering)

提示工程(Prompt Engineering)這個專有名詞的目的在於不修改模型參數的情況下,透過設計合適的提示,引導模型產生更符合預期的結果。

而情境工程(Context Engineering)則是進一步擴展這個概念,Prompt 不單單是文字一串文字,而是包含了更多更複雜的交互資訊,並且這些資訊會隨著時間不斷更新,讓模型能夠隨時取得最新的資訊來產生更符合需求的結果。

在 Philipp Schmid 的文章 The New Skill in AI is Not Prompting, It's Context Engineering 中,他使用了下圖來描述情境工程所包含的元素:

  1. Instructions/System Prompt - 系統提示
  2. Long-Term Memory - 長期記憶
  3. Short-Term Memory (State/History) - 短期記憶(狀態/歷史)
  4. Retrieval Information (RAG) - 檢索資訊(RAG)
  5. User Prompt - 使用者提示
  6. Available Tools - 可用工具
  7. Structured Output - 結構化輸出

筆者認爲這張圖已經很清楚地說明了情境工程中所包含的元素有哪些,但還可以更進一步地說明這些元素之間的互動關係,因此筆者將上述的元素稍作修改(同類型的元素合併),並且使用循序圖來說明這些元素之間的互動關係,如下圖所示:

此圖需要從中間的 Task 元素開始看起:

  1. 任務啟動:當使用者提出新需求時,會被動接收來自 Global 的專案目標與撰寫規範,這些屬於長期不常變動的全域性資訊
  2. 情境補充:同時會取得 Memory 中的短期/長期記憶與 RAG 結果(文件檔、範例程式等...),這些資訊會隨時間不斷更新
  3. 工具調用:依據任務需求選擇可用的 MCP Tools,以獲取額外的資訊或執行特定操作(執行 CMD)
  4. 結果整合:接收 MCP Tools 回傳的執行結果,並將前面接受到的資訊整合,形成完整的情境
  5. 輸出生成:根據提供的情境以及 Task 產生結構化輸出
  6. 狀態回寫:最後的輸出也會寫回至 Memory,以便後續任務能持續累積與更新知識

重點回顧

  1. 瞭解 Prompt Engineering 以及 Context Engineering 的目的
    • 在「不修改模型參數」的情況下,讓模型能夠產出符合需求的結果
  2. 瞭解 Context Engineering 的核心概念?
    • 透過「系統化」地收集開發所需要知道的資訊
    • 在有新任務時,能夠「動態組裝」成新的 prompt,讓 AI 能夠精準理解需求
  3. 瞭解 Context Engineering 的 7 個元素以及它們之間的互動關係
    • 系統提示、長期記憶、短期記憶、檢索資訊、使用者提示、可用工具、結構化輸出
    • 使用循序圖來說明這些元素之間的互動關係

參考資料


上一篇
【Day02】LLM 專有名詞整理
下一篇
【Day04】情境工程工具(10xrules)
系列文
LLM - Zero to Hero or Give Up ?4
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言