「AI 這次被我糾正了,它應該已經『學到』了吧?下次遇到類似情況,總不會再犯同樣的錯了?」
如果你也這樣期待過,大概很快就發現事情沒這麼簡單——同一個對話裡確實不會再犯,但換一個新的對話、新的 session,AI 完全不記得昨天被糾正過什麼。這不是 AI 記性差,是「這次對話裡的糾正」跟「下次任務能用得上的規則」中間,隔著一段沒有人幫它搭起來的橋——這座橋,就是 feedback 記憶該做的事。
假設有一次,AI 被要求判斷「某個功能是不是因為使用量太小,可以先不用修」。AI 查了一下相關數據,發現這個功能確實很少被觸發,於是回報:「這個情境目前流量很低,可以先降低優先序,之後再處理。」
使用者當場否決了這個判斷,理由很直接:「流量小只代表『還沒有人踩到』,不代表『踩到了沒有影響』——你要看的是這個問題本身的風險有多大,不是它現在被用了幾次。」
到這裡為止,這只是一次單一對話裡的糾正。如果沒有被記下來,這個判斷邏輯的錯誤,下次遇到類似情境(可能是完全不同的功能、不同的專案)還是會重演一次——因為對 AI 來說,這是一個全新的任務,它沒有任何線索知道「用流量高低判斷優先序」這件事曾經被否決過。
這正是 feedback 記憶該介入的地方:把這次糾正,從「一次性的對話內容」轉成「一條可以在完全不同情境下被重新套用的規則」。關鍵在於記憶裡要包含哪些要素——不是只記「使用者不喜歡這個結論」,而是要完整記下:
用一組對照來看這個差異:
❌ 淺層記憶:只記結論
「使用者說用流量判斷優先序是錯的,以後不要這樣做。」
→ 下次遇到一個看起來完全不同的情境(例如判斷要不要優先
處理某個很少被存取的資料表),AI 完全想不起這條記憶
跟眼前的任務有什麼關係,因為表面上「流量」「優先序」
這些字眼可能根本沒出現在新任務的描述裡
✅ 深層記憶:記判斷邏輯、否決理由、適用邊界
「AI 曾經用『這個功能目前使用量很低』當理由,判定某個
問題可以先不處理,被使用者否決。否決的理由是:
『觀察到的使用頻率低』只代表『還沒被踩到』,不代表
『這件事本身沒有風險』——這是把『目前觀察範圍內的
現況』誤當成『這件事本質上重不重要』的判斷。
這條教訓適用於任何情境:只要 AI 想用『現在看起來
影響不大』當理由降低某件事的優先序,都要先問一句
『這是真的影響小,還是只是我觀察的範圍不夠廣』。」
→ 下次遇到判斷資料表優先序的情境,即使表面用詞完全
不同,AI 也能辨認出這是同一種思維陷阱的變形版本,
因為記憶裡存的是「判斷邏輯的結構」,不是「表面關鍵字」
淺層記憶只能防住一模一樣的情境再發生,深層記憶防的是同一種思維陷阱的所有變形版本——這中間的差別,決定了一條 feedback 記憶到底值不值得寫。
把使用者的糾正直接濃縮成一句「以後不要 X」,是最省事、也最沒有用的記法。表面上看起來也是在做記錄,但因為丟掉了「為什麼」跟「適用邊界」,這條記憶其實只能在跟原本情境幾乎一模一樣的狀況下才會被觸發——而現實裡,同一個錯誤幾乎不會用一模一樣的方式重演,它總是換一套用詞、換一個表面情境出現。
一條 feedback 記憶如果沒辦法讓 AI 在「表面用詞完全不同、但底層邏輯相同」的情境下也認出這個陷阱,這條記憶基本上等於白寫。
回想你上一次糾正 AI 的判斷:如果要把那次糾正寫成一條之後還能用得上的記憶,你會怎麼描述「原本的判斷邏輯」跟「否決的理由」?如果只能用一句話濃縮,會不會剛好就漏掉了最關鍵的「為什麼」?
明天接著講同一個主題的另一面:記憶要記「為什麼」,不是只記「使用者不喜歡什麼」——今天用一個案例示範了這件事,明天要更有系統地拆解「為什麼」這個要素該怎麼寫,才能真正發揮作用。