最近有部分 Claude 使用者收到了一封來自 Anthropic 的通知郵件。

內容看起來只是一次普通的隱私政策更新。

其中新增了：

• Identity Verification（身份驗證）
• Age Verification（年齡驗證）
• Connected Apps（第三方應用整合）
• Multi-step Tasks（多步驟任務）

而相關內容目前也已經出現在 Anthropic 的隱私政策頁面中：

Anthropic Privacy Policy

乍看之下，這似乎只是法規合規或隱私保護需求。

但當我看到這封郵件時，想到的卻不是隱私，而是責任。

因為這代表一件事：

AI 正在從聊天工具，逐漸變成能夠執行任務的代理系統（Agent）。

當 AI 開始替你做事

如果 Claude、ChatGPT 或 Gemini 只是回答問題的工具，

那麼身份驗證其實沒有那麼重要。

但當 AI 開始能夠：

• 幫你寄信
• 幫你管理行程
• 幫你修改文件
• 幫你執行工作流程

事情就不同了。

企業真正關心的問題從來不是：

AI 能不能做？

而是：

AI 做錯了怎麼辦？

為什麼 AI 公司開始需要知道你是誰？

如果 AI 只是一般工具，

那麼限制帳號、限制 API、限制硬體資源，其實就已經足夠。

但當 AI 開始具有行動能力（Agency）後，

問題就從模型能力轉變成責任歸屬。

因為未來的 Agent 不只是回答問題。

它可能會：

• 發送電子郵件
• 建立採購單
• 修改資料庫內容
• 操作第三方 SaaS 系統
• 執行跨系統工作流程

此時企業與監管機構一定會問：

• 誰授權了這個行為？
• 誰允許 Agent 執行？
• 出事時應該找誰負責？

身份驗證本身並不是目的。

它更像是責任鏈（Responsibility Chain）的起點。

第一次錯誤並不可怕

假設企業導入了一套採購 Agent。

前 100 次執行都正常：

• 建立採購單
• 發送通知
• 更新 ERP
• 建立庫存紀錄

一切順利。

於是大家開始信任它。

甚至不再檢查。

然後第 101 次：

原本要採購 100 雙鞋，

Agent 卻下單成了 10,000 雙。

造成數百萬成本損失。

此時問題來了：

誰負責？

條款可以定義責任，但無法解釋錯誤

從法律角度來說，

多數平台最後都會傾向於寫成：

使用者授權 Agent 執行任務，因此相關後果由使用者承擔。

從法務角度看似合理。

但企業真正想知道的問題其實不是這個。

企業更在意的是：

為什麼會出錯？

因為前 100 次明明都正常。

如果系統每天都在穩定運作，

使用者自然會逐漸建立信任。

而信任一旦建立，

監督行為就會下降。

這是所有自動化系統都曾經發生過的現象。

責任鏈正在形成

Anthropic 這次新增身份驗證條款，

其實透露出一個重要訊號。

AI 公司開始意識到：

當 Agent 擁有行動能力之後，

就必須建立責任鏈。

因此需要知道：

• 誰授權？
• 誰使用？
• 誰發出指令？

這也是為什麼身份驗證開始變得重要。

但值得注意的是，

目前建立的是：

Human Accountability
（人的責任）

而不是：

AI Accountability
（AI 狀態責任）

真正困難的問題

即使知道是誰授權，

仍然有一個問題無法回答：

為什麼第 101 次會失敗？

企業其實不會滿足於：

使用者授權了，所以責任歸使用者。

因為真正需要回答的是：

• Agent 做出了什麼判斷？
• 為什麼這次與之前不同？
• 決策過程是否能追蹤？
• 是否存在長期漂移？
• 系統狀態是否已經發生改變？

如果連系統本身都無法解釋：

為什麼這次和前 100 次不一樣？

那麼最後所有責任都可能被推回使用者身上。

下一階段的競爭

未來 Agent 的競爭，

可能不只是模型能力。

而是：

• 可追溯性（Traceability）
• 可解釋性（Explainability）
• 可稽核性（Auditability）
• 長期穩定性（Long-Term Stability）

因為企業真正需要的，

不是一個永遠不犯錯的 Agent。

而是一個即使犯錯，

也能知道為什麼犯錯的 Agent。

Anthropic 的這封郵件，

表面上是在更新隱私政策。

但從另一個角度看，

它或許也透露出一個訊號：

AI 產業正在建立人類的責任鏈。

然而，

當 Agent 逐漸成為企業流程中的執行者時，

我們仍然缺少一個答案：

當第 101 次決策出錯時，我們真的知道發生了什麼事嗎？

這或許才是 AI Agent 時代真正值得思考的問題。