iT邦幫忙

2026 iThome 鐵人賽

DAY 12
0
IT Operation

給決策者的 30 堂 AI 素養課系列 第 12

【Day 12】企業知識庫與機構記憶

  • 分享至 

  • xImage
  •  

昨天提到:AI 需要資料才能夠做事。接下來要談的是:我們要留下什麼樣的資料?

資料類型有哪些?

大家都知道資料是 AI 的燃料。AI 要能工作,先決條件是拿得到足夠的資料。

一個企業裡面會有的資料類型大概可以分成下面幾種。第一種是結構化資料,存在公司內部各種系統裡,像 ERP、CRM、HR。接著是紀錄型資料:合約、SOP、會議紀錄、週報月報,事情結束後留下的紀錄。接著是作業型資料:企劃提案、規格需求、工程文件、設計稿、程式碼。

不過還有一種最常被遺漏的:隱性知識。像是某個資深員工,看到報表裡某幾個欄位,會知道有某一年的哪幾筆數字要拿掉,因為他知道那幾筆資料是例外狀況,甚至有可能那個例外就是他自己當初操作時放進去的。這種判斷從來沒有寫在任何地方,只留在他腦子裡。一旦人員離職交接,下一個接手的人不一定會馬上發現問題。因為這種例外造成的數字有時對,有時錯;而什麼情況下會錯,只有當初那個人才知道。這是一個潛在風險,不會留下警訊,直到出事才會被發現。

有了知識庫,我要怎麼用

AI 存取知識庫,業界這幾年收斂出一套標準流程。第一層是 grounding,讓 AI 回答問題時有一個可查的來源可以對照,不是憑訓練時看過的東西自由發揮,目前最常見的就是 Gemini Notebook,只在提供的資料裡搜尋。比較長的文本資料則是先切成一段一段,每一段轉成一組向量數字,根據語意的關聯決定彼此的距離,這就是 embedding;而存進資料庫之後,AI 回答問題時先用相似度撈出最接近的幾段,拼給模型參考,這整個流程就是 RAG。

AI 要真正接到事實,只有查、算、比對這幾個確定式的動作辦得到。grounding 和 RAG 解決的正是「查」這一半,提供 AI 明確的資料,讓它可以讀取受控的資料內容,不再是模型憑印象自由發揮或額外引用外部非證實的資訊。但 grounding 沒有強制性,能減少幻覺,但沒辦法根治。能做的事,不是把 prompt 寫得更仔細,是換掉架構。讓模型自己寫一段程式碼去讀資料,查資料這件事交給確定式的程式,模型只負責把查到的結果講成一句話,這是 harness,負責的是資料輸入這一段。

產出更多更快了,脈絡呢

以往可能確保所有文件都有收錄就足夠了,但隨著 AI 進入工作流,可能要思考的就不只是最終的資料產出。

三個月前那份市場進入評估,是用 AI 在三天內生出來的,可能比過去團隊做兩週的內容還要完整。上週董事會有人問了一句:「當初排除東南亞市場,是因為關稅風險還是人力成本?現在人力成本異動了,會影響到哪些結論?」翻開那份報告,結論寫得很清楚,但沒有人記得,也沒有人查得到,那個綜合風險和成本的結論,到底是在什麼樣的數字組合下產生的。

「那再重新拿現在的資料跑一次不就好了?」資料一直在變動,環境和條件也不同,AI 再跑一次,參照的已經不是當初那批數字,跑出來的也不會是原本那份報告的結論。

做軟體開發的人對這件事不陌生。每一次需求或功能異動,通常都帶著最初的需求長什麼樣子、要解決的是什麼問題,這是每一個軟體功能自己的脈絡,寫成 ticket、留在版本紀錄裡,沒有人覺得這是多餘的。換到 AI 產出資料的時候,同樣的脈絡,我們有留住嗎?

以前知識的損耗綁著人:一整個世代退休,才一次帶走沒寫下來的東西。AI 進入生產力現場之後,問題不是多久發生一次。AI 每天都在用不同的輸入、不同的條件,產出市場評估、客戶分析、風險報告,每一份看起來都一樣篤定。脈絡一旦跟著那個判斷一起消失,留下的就是一批對不回去的資料。

機構記憶,除了結論還要留住過程

RAG 那套做法,把文件切段、轉成向量、存進資料庫,這個壓縮不可逆。壓完之後,那份東西是什麼時候、在什麼條件下、為什麼被寫下來的,多半留不住,留下的只是被摘要過的結論本身。

農神五號的 F-1 引擎設計圖,到現在完整保存在美國馬歇爾太空飛行中心。半個世紀後 NASA 要重返月球,選的不是重造這顆引擎,是把太空梭時代的 RS-25 引擎拿來改裝、一次性用掉。原因不是圖紙不見了。所有的文件紀錄都在,但是圍繞文件的經驗和判斷沒有留下。那群工程師手工打造每一顆引擎時邊做邊調整、卻沒寫下來的修改,連同他們的手藝一起退休了。而這一點也不誇張,大家可以回想在公司裡詢問資深員工問題時,聽到多少次:憑感覺。人的憑感覺,跟 AI 產出資料時沒被記下來的那段脈絡,其實是同一種東西:都是隱性知識,沒有寫下來,就等於不存在。

機構記憶不是一個裝結論的資料庫,是這件事怎麼被做出來的,這件事本身。真正的機構記憶,除了 RAG 撈得到的那份結論,還應該留住判斷是在什麼條件下做的、依據是什麼、誰核准的。

對經營者意味著什麼:留得住過程,才算資產

RAG、embedding,這些是廠商賣的東西,買了就有。但它們解決的只是「查得到」,「值得查」的那個過程有沒有被留下,要靠公司自己的組織設計,不是買一套系統就會自動發生。

Day 6 說過,你花錢買 AI 的原因,和你最不想發生的事,通常在同一個地方。機構記憶正是這樣:它是解方的一半,同時也是幻覺繼續流傳的管道。

機構記憶一旦變成可查詢的資產,誰有權限寫進去、誰來驗證核實,是另一個要決定的問題。

只是留住過程這件事本身也有代價。要留多少、留多久、誰來維護,最後都會回到同一個問題:這筆錢花得值不值得。

要拿走的問題

  • 執行層(CTO/CIO):現在的知識庫,是只存了結論,還是也留得住判斷當時的脈絡?
  • 經營層(董事會/CEO):哪些決策的過程是需要留存的?要由誰來驗證核實?

一句話帶走:機構記憶留住的不該只是結論,還有怎麼完成這件事的那個脈絡。


上一篇
【Day 11】導入 AI 前,你的地基準備好了嗎?
下一篇
【Day 13】Token 用量、golden set、evaluation:AI 導入的 ROI
系列文
給決策者的 30 堂 AI 素養課22
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言