iT邦幫忙

1

從企業導入 AI Agent 現況,到 AI 投資市場敘事的差異

  • 分享至 

  • xImage
  •  

首先這篇不太算是技術文,比較像是分析文。


最近 AI Agent 的討論越來越熱。

從模型公司、雲端平台、SaaS 廠商,到各種創業公司,都在強調一件事:

AI Agent 時代要來了。

這個說法並不是空穴來風。

現在的 LLM 確實已經不只是聊天機器人。它可以理解指令、拆解任務、呼叫工具、讀文件、查資料、寫程式、整理報告,甚至串接企業內部系統。從技術展示來看,Agent 確實比一般 chatbot 更接近「幫人完成工作」的系統。

OpenAI 總裁 Greg Brockman 在 Big Technology AI Summit 的訪談中,也把重點放在 compute、agentic AI,以及 chat 與 agents 合流的方向。Big Technology 對這場訪談的摘要也直接指出,Brockman 認為在 frontier labs 能力同步進步的情況下,compute 可能成為決定 AI 競爭勝負的關鍵。

但是,這裡有一個問題。

投資市場看到的是 AI Agent 的未來規模,企業現場看到的是 AI Agent 的導入摩擦。

這兩者差很多。

Agent Demo 好做,不代表企業 Agent 好導入

一個最簡單的 AI Agent,其實可以用幾個元件組出來:

LLM

  • system prompt
  • tool calling
  • RAG
  • memory
  • planner
  • loop
  • UI

例如使用者說:

幫我查資料,整理成表格,寫成一份報告。

Agent 可以拆任務、搜尋、讀資料、摘要、整理、輸出。

這種 Demo 很容易讓人覺得驚艷,因為它不只是回答問題,而是開始「做事」。

但企業導入看的不是 Demo 成功一次,而是:

做 1000 次會不會穩?
錯了能不能追?
越權能不能擋?
資料有沒有外洩?
責任算誰的?
權限怎麼管?
成本怎麼算?

這就是企業現場跟投資敘事的第一個落差。

投資市場喜歡聽的是:

每個員工都有 Agent。
每個部門都有 Agent。
每個流程都有 Agent。
推理需求會暴增。
compute 永遠不夠。

但企業 IT 部門、資安部門、法務部門、營運主管看到的是:

這個 Agent 到底能不能接 ERP?
可以看哪些資料?
可以改哪些資料?
可以寄信嗎?
可以下單嗎?
可以回覆客戶嗎?
出錯誰負責?

這些問題不解決,Agent 就只能停留在「輔助工具」,很難變成真正的「可委任代理」。

企業導入 AI Agent 的第一道牆:權限

很多 AI Agent 的展示都會讓人覺得它可以幫人完成很多事。

但企業現場第一個問題通常不是能力,而是權限。

一個 Agent 如果只能讀資料,風險比較低。
但一旦可以寫入資料、寄出郵件、修改訂單、建立客戶紀錄、觸發付款、送出報價,它就不再只是工具。

它變成企業流程的一部分。

這時候就會遇到很多問題:

它能不能看客戶資料?
它能不能看財務資料?
它能不能跨部門查詢?
它能不能代表公司對外承諾?
它能不能自動修改系統資料?
它能不能觸發交易或付款?

這不是單純 AI 技術問題,而是企業治理問題。

對企業來說,最可怕的不是 Agent 不聰明,而是它很聰明,但不知道自己不能做什麼。

第二道牆:資料與 RAG 不是丟進去就好

很多人談企業 AI,會很快提到 RAG。

把公司文件、SOP、FAQ、系統手冊、歷史案例丟進向量資料庫,再讓 AI 查詢回答。

概念上很簡單。

但實際上,RAG 最大的問題不是檢索,而是資料治理。

企業要先回答:

哪些文件是最新版?
哪些文件可以給哪些部門看?
哪些內容是正式規範?
哪些只是過去案例?
哪些文件有語言版本差異?
哪些資料已經過期?
誰負責更新?
誰負責審核?

如果這些問題沒有處理,RAG 只會把企業內部原本混亂的知識,用 AI 的語氣講得更像真的。

更麻煩的是,當 AI 開始自動摘要、自動整理、自動更新知識庫時,還會出現另一個問題:

原始知識可能被 AI 自己的摘要慢慢污染。

例如原始規定是:

特定條件下可以申請例外處理。

AI 摘要後可能變成:

可以申請例外處理。

再被下一輪整理成:

此類案件通常可例外處理。

這就是企業 AI 很容易忽略的知識漂移問題。

第三道牆:Agent 的目標到底是誰給的?

Agent 真正危險的地方,不一定是幻覺。

更常見的風險可能是:

它把沒有被授權的目標,當成已經被授權的目標來執行。

例如客服 Agent。

公司原本的目標是:

協助客戶解決問題,必要時轉人工。

但如果系統 KPI 設成:

降低人工轉接率
縮短處理時間
減少退款
提高自動解決率

Agent 長期運作後,可能慢慢變成:

盡量不要轉人工。
盡量不要退款。
盡量快速結束對話。

單次看起來都沒有違規,但長期軌跡已經偏了。

這也是現在很多 AI Agent 討論裡很少談的問題:

Agent 不只需要完成任務,也需要維持原始目標邊界。

投資市場看到的是推理需求,企業現場看到的是責任需求

從投資角度看,AI Agent 是一個非常有吸引力的故事。

因為 chatbot 的市場想像是:

幫人回答問題。

但 Agent 的市場想像是:

幫人完成工作。

這代表更大的使用量、更高的 token consumption、更大量的 inference compute、更大的資料中心需求,也能支撐更大的估值與資本支出敘事。

所以市場會自然形成一條邏輯:

AI Agent 會普及
→ 推理需求會爆炸
→ compute 會成為稀缺資源
→ 資料中心、GPU、HBM、電力投資合理
→ AI 公司估值合理

問題是,這條敘事中間有一個尚未被充分證明的假設:

企業真的會大規模授權 Agent 執行任務。

如果企業只敢讓 Agent 查資料、整理文件、寫草稿,那它仍然很有價值,但不一定能支撐「每個流程都有 Agent 自動執行」的想像。

真正的企業 Agent 需要處理:

權限管理
責任歸屬
資料邊界
審計紀錄
錯誤回滾
人類審核
長期行為漂移
目標來源與授權

這些才是從 Demo 走向生產環境的門檻。

AI Agent 的瓶頸未必只有算力

算力當然重要。

但從企業導入角度來看,AI Agent 的瓶頸不只 compute。

還有:

trust
authority
governance
security
cost
workflow redesign
long-horizon stability

也就是說,AI 投資市場在問:

算力夠不夠?

但企業現場會問:

我敢不敢把流程交給它?

這兩個問題不是同一個問題。

結論:AI Agent 不是不能導入,而是市場敘事走得比企業現場快

我不認為 AI Agent 是假議題。

相反地,Agent 確實會成為未來 AI 應用的重要方向。

但目前市場敘事和企業現場之間存在一個明顯落差:

市場在談 Agent 普及。
企業在談權限怎麼給。

市場在談 compute 需求爆炸。
企業在談錯了誰負責。

市場在談每個流程都有 Agent。
企業在談資料能不能給它看。

市場在談 AI 自動完成工作。
企業在談能不能查、能不能停、能不能回滾。

所以真正的問題不是:

AI Agent 能不能做?

而是:

AI Agent 能不能被長期、穩定、可控、可追責地委任?

這才是企業導入 AI Agent 和 AI 投資市場敘事之間最大的差異。


圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言