上一篇 談到一個我認為很重要的問題：高風險 AI 的目標，不應該只是讓人更相信 AI，而是讓人知道什麼時候該依賴、什麼時候該質疑。

但當我們真的要做到這件事情，下一個問題就出現了：AI 應該怎麼參與決策？
如果 AI 只是告訴我們一個答案，再讓人決定「接受」或「拒絕」，其實還是把 AI 當成一個 Recommendation Engine。

但人在面對複雜問題時，真正需要的往往不是另一個答案，而是：有人可以跟我一起把問題想清楚。
這也是我最近讀到的兩篇 CHI 2025 研究讓我特別有感的地方。

其中一篇〈Towards Human-AI Deliberation: Design and Evaluation of LLM-Empowered Deliberative AI for AI-Assisted Decision-Making〉，提出 Human-AI Deliberation 的概念，把人機互動**從「接受或拒絕 AI 建議」轉向讓人與 AI 針對彼此不同的觀點進行討論、反思與更新。**研究也發現，這樣的互動方式能改善適當依賴與決策表現。

另一篇〈From Text to Trust: Empowering AI-assisted Decision Making with Adaptive LLM-powered Analysis〉則進一步探討，AI 不只是給出推薦結果，而是提供針對不同決策因素的分析，幫助使用者理解 AI 為什麼會做出這個判斷；研究提出的自適應分析方法，也能改善人對 AI 的 appropriate reliance。

兩篇研究其實指向同一個方向：AI 的角色，可能正在從「告訴你答案」，轉向「陪你把答案想出來」。

Recommendation 的問題：AI 說了什麼，但沒有告訴你怎麼想

現在很多 AI 輔助決策工具的互動模式其實非常簡單：

輸入資訊 → AI 分析 → Recommendation → 接受 / 拒絕

例如：
「建議錄取。」 「建議這位病人接受某種處置。」 「預測這個方案的風險較低。」
看起來很有效率。

問題是，當 AI 給出一個結論之後，人還是得面對一個問題：我為什麼要相信它？
如果答案只是：「因為模型算出來是這樣。」那麼使用者其實很難真正判斷這個建議是否合理，尤其在高風險場域，很多決策不是單純的對或錯，使用者可能知道一些 AI 不知道的情境，AI 也可能從大量資料中看到一些人沒有注意到的模式。

真正困難的地方，恰恰就在於：人和 AI 可能都只掌握了問題的一部分。
人和 AI 不同意的時候，才是真正需要 AI 的時候

假設 AI 告訴一位教練：「不建議讓這名選手參加下一場比賽。」

教練可能不同意。因為教練知道這名選手最近的狀態、心理狀況，甚至知道一些還沒有被系統記錄的資訊。
如果系統只能讓他按：Accept / Reject，那麼這次不同意其實就到此為止，AI 沒有理解教練為什麼不同意。教練也沒有機會知道：AI 到底看到了什麼，才會做出這個判斷。這就是傳統 Recommendation 模式的一個限制：
它只能處理結果上的分歧，卻不太能處理理由上的分歧。
而真正有價值的協作，往往就發生在這個分歧裡。

Deliberation：不是互相說服，而是把理由攤開來

這也是 Human-AI Deliberation 很有意思的地方，它不是單純把 AI 變成一個更會聊天的 Chatbot，而是把「不同意」本身設計成決策流程的一部分。

研究提出的框架，會先讓人與 AI 表達各自對不同決策因素的看法，再找出雙方差異較大的地方，接著針對這些分歧進行討論，最後讓人與 AI 都有機會根據新的資訊更新自己的觀點。

這個過程很像：
先說出自己的想法 → 找出我們哪裡不同 → 討論為什麼不同 → 交換證據 → 重新判斷

這和「AI 給答案，人類審核」是非常不同的互動方式，在這裡，AI 不再只是回答者，它開始成為：一個可以跟你一起推理的決策夥伴。

審辯式 AI 的架構：知識、溝通、控制三層

要讓「討論」真的能運作，而不只是聊天，系統背後需要一套能理解人類意圖、提出有根據的論點、並動態調整立場的架構。以研究生錄取（Graduate Admission）任務為例，這類審辯式 AI（Deliberative AI）大致分成三層：

• 知識層：由領域特定模型（DS-model）與訓練數據組成，負責提供可靠的預測與數據分佈洞察，避免大型語言模型單獨產生幻覺。
• 溝通層：利用 LLM 的對話能力，包含意圖分析器（理解使用者這句話在問什麼）、審辯促進器（生成有禮且具批判性的回應）、以及論點評估器（衡量人類論點的邏輯強度）。
• 控制層：作為橋樑，協調 LLM 與 DS 模型之間的互動，包含監管器（確保 AI 輸出符合數據事實）與意見更新控制器（根據討論強度決定要不要調整 AI 的觀點）。

這三層合起來，讓「討論」不再只是話術上的來回，而是每一句回應背後都能對應到具體的數據或邏輯檢查。

一個具體例子：關於 GPA 的審辯對話

在研究生錄取的案例中，審辯對話的核心，是針對特定申請指標（如 GPA、GRE、個人陳述）進行基於證據的意見交換。以 GPA 為例，實際的互動流程大致是：

人類提出論點： 「雖然這個 GPA 還不錯，但並不突出，只比平均水平高出一點點。我不認為這會對錄取產生特別積極的影響。」

AI 的意圖分析與證據檢索： 意圖分析器判斷這句話涉及的屬性是「GPA」，意圖類別屬於「屬性值的分布/水平」；知識提取器則從資料庫查出這位申請人 GPA（3.63）的具體百分位數。

AI 的審辯式回應： 「我理解您對申請人 GPA 不夠突出的擔憂。然而，值得注意的是，該申請人的 GPA 3.63 在全體申請者中處於 80% 的百分位數，這意味著 80% 的申請者 GPA 都低於此水平。」

從用戶研究的定性分析中，也能看到幾種常見的審辯類型：

• 挑戰屬性的重要性：「多樣性對整個機構來說極其重要，因此學生評價很高的多樣性陳述應該會極大地影響他們的錄取機率。」
• 質疑屬性的貢獻度：「我知道申請者的本科院校排名對錄取機會有重大影響。但為什麼中等排名就不夠好呢？」
• 對比式評估：「我很驚訝你給這個申請者的 GPA 負面評價。3.26 並沒有比上一個申請者的 3.5 低那麼多。」
• 整體審核與屬性交互：「工程專業非常困難，任何高於 3.5 的 GPA 都可以被視為成功的。」

對話發生後，系統會接著引導幾個動作：詢問使用者是否要根據討論調整自己對該指標的權重；如果人類的論點邏輯性強，且 AI 對這個案例的預測本身存在不確定性，AI 也會動態調整自己在介面上顯示的意見值；最後系統會總結目前的共識與分歧，並建議轉向討論下一個差異最大的維度，例如從 GPA 轉向推薦信。

整個機制其實是圍繞著「證據權重」（Weight of Evidence, WoE）的交換在運作：

先各自表達初步看法（思想引出）→ 找出分歧最大的指標（思想對齊）→ 針對分歧交換數據與理由（深度討論）→ 依據討論結果更新立場（觀點更新）。

這讓 AI 不再只是冷冰冰地給出一個分數，而是能透過百分位數、相關性這類具體證據，去挑戰或支持人類的直覺判斷。

下一篇（下）會接著談：為什麼「解釋」不等於「說服」、Deliberation 該用在哪裡、又為什麼不是越多越好，最後回到「共同決策」到底該長什麼樣子。