iT邦幫忙

2026 iThome 鐵人賽

DAY 9
0
AI Engineering

AI 開發雜記:Skill、CLAUDE.md、Memory 這些你可能忽略的細節系列 第 9

Day 09:案例——一個 feedback 記憶怎麼從「被糾正」變成「規則」

  • 分享至 

  • xImage
  •  

前言:被糾正過一次,下次就不會再犯了嗎?

「AI 這次被我糾正了,它應該已經『學到』了吧?下次遇到類似情況,總不會再犯同樣的錯了?」

如果你也這樣期待過,大概很快就發現事情沒這麼簡單——同一個對話裡確實不會再犯,但換一個新的對話、新的 session,AI 完全不記得昨天被糾正過什麼。這不是 AI 記性差,是「這次對話裡的糾正」跟「下次任務能用得上的規則」中間,隔著一段沒有人幫它搭起來的橋——這座橋,就是 feedback 記憶該做的事。

今日目標

  • 走一次 feedback 記憶的完整生命週期:從一次被否決的判斷,到變成可以重複套用的規則
  • 理解「記住使用者不喜歡什麼」跟「記住為什麼不喜歡」之間的關鍵落差
  • 看一組具體對照,感受淺層記憶跟深層記憶在下次任務裡的實際差異
  • 建立寫 feedback 記憶時該包含哪些要素的具體標準

一個案例:從「這樣不行」到「以後都這樣做」

假設有一次,AI 被要求判斷「某個功能是不是因為使用量太小,可以先不用修」。AI 查了一下相關數據,發現這個功能確實很少被觸發,於是回報:「這個情境目前流量很低,可以先降低優先序,之後再處理。」

使用者當場否決了這個判斷,理由很直接:「流量小只代表『還沒有人踩到』,不代表『踩到了沒有影響』——你要看的是這個問題本身的風險有多大,不是它現在被用了幾次。」

到這裡為止,這只是一次單一對話裡的糾正。如果沒有被記下來,這個判斷邏輯的錯誤,下次遇到類似情境(可能是完全不同的功能、不同的專案)還是會重演一次——因為對 AI 來說,這是一個全新的任務,它沒有任何線索知道「用流量高低判斷優先序」這件事曾經被否決過。

記憶要記什麼,才真正有用

這正是 feedback 記憶該介入的地方:把這次糾正,從「一次性的對話內容」轉成「一條可以在完全不同情境下被重新套用的規則」。關鍵在於記憶裡要包含哪些要素——不是只記「使用者不喜歡這個結論」,而是要完整記下:

  • AI 原本的判斷邏輯是什麼(用流量高低當作優先序的依據)
  • 否決的具體理由是什麼(流量小只反映觀察範圍,不反映風險本身)
  • 這條教訓適用的邊界在哪裡(任何用「目前觀察到的使用情況」代替「這件事本身重不重要」的判斷,都要留意這個陷阱)

用一組對照來看這個差異:

❌ 淺層記憶:只記結論
「使用者說用流量判斷優先序是錯的,以後不要這樣做。」
→ 下次遇到一個看起來完全不同的情境(例如判斷要不要優先
  處理某個很少被存取的資料表),AI 完全想不起這條記憶
  跟眼前的任務有什麼關係,因為表面上「流量」「優先序」
  這些字眼可能根本沒出現在新任務的描述裡

✅ 深層記憶:記判斷邏輯、否決理由、適用邊界
「AI 曾經用『這個功能目前使用量很低』當理由,判定某個
 問題可以先不處理,被使用者否決。否決的理由是:
 『觀察到的使用頻率低』只代表『還沒被踩到』,不代表
 『這件事本身沒有風險』——這是把『目前觀察範圍內的
 現況』誤當成『這件事本質上重不重要』的判斷。
 這條教訓適用於任何情境:只要 AI 想用『現在看起來
 影響不大』當理由降低某件事的優先序,都要先問一句
 『這是真的影響小,還是只是我觀察的範圍不夠廣』。」
→ 下次遇到判斷資料表優先序的情境,即使表面用詞完全
  不同,AI 也能辨認出這是同一種思維陷阱的變形版本,
  因為記憶裡存的是「判斷邏輯的結構」,不是「表面關鍵字」

淺層記憶只能防住一模一樣的情境再發生,深層記憶防的是同一種思維陷阱的所有變形版本——這中間的差別,決定了一條 feedback 記憶到底值不值得寫。

為什麼「記結論」是最常見的偷懶方式

把使用者的糾正直接濃縮成一句「以後不要 X」,是最省事、也最沒有用的記法。表面上看起來也是在做記錄,但因為丟掉了「為什麼」跟「適用邊界」,這條記憶其實只能在跟原本情境幾乎一模一樣的狀況下才會被觸發——而現實裡,同一個錯誤幾乎不會用一模一樣的方式重演,它總是換一套用詞、換一個表面情境出現。

一條 feedback 記憶如果沒辦法讓 AI 在「表面用詞完全不同、但底層邏輯相同」的情境下也認出這個陷阱,這條記憶基本上等於白寫。

今日思考題

回想你上一次糾正 AI 的判斷:如果要把那次糾正寫成一條之後還能用得上的記憶,你會怎麼描述「原本的判斷邏輯」跟「否決的理由」?如果只能用一句話濃縮,會不會剛好就漏掉了最關鍵的「為什麼」?

今日重點回顧

  • feedback 記憶要做的事,是把單次對話裡的糾正,轉成能在完全不同情境下重新套用的規則
  • 記憶要包含三個要素:AI 原本的判斷邏輯、否決的具體理由、這條教訓適用的邊界
  • 只記結論的淺層記憶,只能防住一模一樣的情境重演;記下判斷邏輯結構的深層記憶,能防住同一種思維陷阱的所有變形版本
  • 判斷一條 feedback 記憶值不值得寫的標準:它能不能在表面用詞完全不同的情境下,還是被正確觸發

明日預告

明天接著講同一個主題的另一面:記憶要記「為什麼」,不是只記「使用者不喜歡什麼」——今天用一個案例示範了這件事,明天要更有系統地拆解「為什麼」這個要素該怎麼寫,才能真正發揮作用。


上一篇
Day 08:持久記憶系統的四種類型——user/feedback/project/reference
下一篇
Day 10:記憶要記「為什麼」,不是只記「使用者不喜歡什麼」
系列文
AI 開發雜記:Skill、CLAUDE.md、Memory 這些你可能忽略的細節13
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言