iT邦幫忙

2025 iThome 鐵人賽

DAY 13
0
生成式 AI

生成式 AI 30 天觀念導讀:不寫程式也看懂的實戰思維系列 第 13

Day 13|Context Window 與壓縮:把字數留給關鍵

  • 分享至 

  • xImage
  •  

為什麼需要談?
視窗再大也會被浪費;把無關段落塞進去只會沖淡重點。

白話定義
Context Window=一次能看的 token 上限。壓縮=保留決策所需資訊(定義、數字、結論、爭議點),刪冗詞。

常見情境

合約/規範(定義條、適用範圍、例外)

長篇報告(章節摘要、圖表結論)

歷史紀錄(時間線、重大決策)

常見誤解

視窗大=品質好(噪音更多時,錯得更理直氣壯)

壓縮必定失真(抓對層級就不會)

實用心法

D-N-D 清單:Definitions 定義|Numbers 關鍵數字|Decisions 決策與依據。先留這三類。

金字塔原則:先結論、後理由、再證據;每段只保留一個訊息點。

雙欄對照:左欄「原文摘句」,右欄「一句話要義」,方便引用與核對。

檢核清單

是否先做章節級摘要,再決定是否貼原文?

所有關鍵數字、定義、決策都有保留嗎?

每個引用是否附來源(文件名+章節/頁碼/日期)?

小結
先濾後餵,讓模型把「腦力」用在真正重要的 20%。


上一篇
Day 12|Prompt A/B 與穩定性:看平均,更看最差
下一篇
Day 14|RAG 入門:為什麼比硬調模型更務實
系列文
生成式 AI 30 天觀念導讀:不寫程式也看懂的實戰思維19
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言