企業導入生成式 AI 時,最直覺的第一步通常是做一個聊天介面:員工輸入問題,AI 產生回答,看起來就像已經完成了一個 AI 產品。但真正開始使用後,問題很快就會浮現。AI 可以把文字寫得很好,卻不知道公司最新的資料放在哪裡;它可以解釋一個概念,卻不知道昨天專案的進度;甚至當資訊不足時,它仍可能給出一段聽起來合理的答案。
這也是我在開發 Data Machi 時逐漸意識到的一件事:企業真正需要的,不是一個更會聊天的 AI,而是一套能可靠完成工作的系統。
假設主管問:「今年哪一類需求工單最多?主要來自哪些市場?相關改善專案進行到哪裡?」這句話看起來只是一個問題,但如果真的要回答,分析師往往需要先打開 Google Sheets 找到正確資料,再到 Confluence 確認分類定義,接著做統計與比較,最後還要到 Trello 或 Jira 查目前的改善進度。
也就是說,真正的工作從來不只是「產生一段答案」。它包含找資料、理解定義、計算、判斷、查核與整理等一連串動作。聊天型 AI 最擅長的通常只是最後一段文字生成,但企業真正花時間的地方,往往發生在前面。
如果一個 AI 沒有接上公司的資料、工具與流程,就算使用再強的模型,它仍然只能根據既有訓練知識或你手動貼進提示詞(Prompt)的內容回答。當資料更新時,它不會自然知道;當任務需要查另一個系統時,它也不會自動完成。
企業 AI 則多了一層「工作的能力」。它需要知道資料從哪裡取得、什麼時候應該呼叫工具、哪些數字必須由程式計算,以及結果不夠完整時要不要再查一次。更重要的是,當它無法確認答案時,系統應該能夠停下來,而不是用流暢的文字把不確定性掩蓋掉。
Data Machi 的核心想法,就是把 AI 從單純的聊天介面往「企業知識工作流」推進。結構化數字可以由 Google Sheets 或資料工具處理,文件與規範透過 RAG 取得,專案進度由外部系統查詢,而 Coordinator 則負責理解使用者的問題,決定應該使用哪些來源,再把結果整理成最後的回答。
這樣的架構並不是為了讓系統看起來更複雜,而是因為不同工作本來就需要不同能力。文件搜尋、精確計算、即時狀態與後續操作,本來就不應該全部交給同一個 Prompt 處理。
接下來的系列不會只停留在概念。我們會先理解企業知識工作與檢索增強生成(RAG),接著把 AI 接上 Google Sheets 與文件來源,再進一步介紹工具使用(Tool Use)、代理(Agent)、協調者(Coordinator)與 LangGraph。最後則會處理可靠性、權限、安全與部署,把一個展示原型逐步推進成可以真正使用的產品。
這條路徑可以簡化成:
聊天(Chat)→ 檢索增強生成(RAG)→ 工具使用(Tool Use)→ 代理(Agent)→ 工作流程(Workflow)→ 產品(Product)
每往右走一步,AI 都不只是「變得更聰明」,而是多了一層可以真正完成工作的能力。
今天先記住一件事:企業 AI 的價值,不在於回答得像不像人,而在於它能不能可靠地完成一段工作。
下一篇,我們會先把「知識工作」本身拆開來看。只有先知道工作是怎麼完成的,才知道 AI 應該被放在哪一個環節。
我們下集見囉!