今年參與 Google 舉辦的 Build on Google AI 競賽時，我選擇了 AI for Social Goods（科技永續與社會創新） 作為主題。這個主題鼓勵開發者運用 Google AI 技術，針對醫療照護、防災減災、環境保護、弱勢協助等真實社會問題，設計具有實際影響力的 AI 解決方案。我將在後面的的章節介紹我如何落地，會從運動科學、醫藥照護的既有專案闡述概念，並將 Google AI 的實作方式套用在災害應變的專案中，讓 AI 成為協作的基礎設施。

也正因為如此，我重新思考一個問題：如果 AI 要落地、創造社會價值，它最重要的任務究竟是什麼？

上一篇談到，在高風險場域中，資訊越來越多、時間越來越少，而人的注意力始終有限。今天這篇要討論到，當事情複雜到超過人的處理能力時，還會出現另一個問題：當人開始對自己的判斷沒有把握時，會發生什麼事？
很自然地，我們會想到：那就交給 AI。如果問題太複雜，就讓 AI 幫忙分析；如果未來很難預測，就讓 AI 幫忙預測。但，這安全嗎？

CHI 2024 的一篇研究〈Dealing with Uncertainty: Understanding the Impact of Prognostic Versus Diagnostic Tasks on Trust and Reliance in Human-AI Decision Making〉，正好探討了這個問題。研究比較了不同程度的任務複雜度與不確定性，發現人如何依賴 AI，並不只是由 AI 本身的表現決定；任務究竟是理解現在，還是預測未來，以及其中存在多少不確定性，也會影響人是否採納 AI 的建議。

這讓我在搭建高風險場域系統時重新思考一件事情：高風險 AI 真正需要解決的，可能不只是「AI 準不準」，而是「人在什麼情況下，應該相信 AI、質疑 AI，或只把 AI 當成參考」。這也是我們在使用現行的 AI 搭建產品時特別需要去設計的。

複雜和不確定，其實是兩種不同的困難

高風險任務之所以困難，通常不是單一原因。研究把任務特性拆成兩個維度：任務複雜度（Task Complexity）與任務不確定性（Task Uncertainty）。前者比較接近「我要同時處理多少資訊、多少條件」，後者則是「即使掌握現在的資訊，我有多難預測最後的結果」。

這兩者很容易被混在一起，但可以從思考兩個不同的問題去區分。
第一個問題是：「根據目前所有資料，判斷現在發生了什麼。」資料很多、條件很多，可能非常複雜。
第二個問題則是：「根據現在的資料，預測兩週後會發生什麼。」即使你已經掌握所有可取得的資訊，未來仍然可能有無法被消除的不確定性。

以醫療為例，最能看出這兩種問題的本質差異。第一個問題是：「根據目前所有資料，判斷現在發生了什麼？」醫院每天都會產生大量資訊，包括病人的病史、血液檢查、醫學影像、生命徵象、用藥紀錄與醫護觀察等。AI 的任務是整合這些龐大且彼此關聯的資料，判斷病人目前最可能的狀態，例如是否已經出現敗血症、是否正在發生器官衰竭，或是哪些症狀其實源自同一個疾病。這個問題的挑戰在於資訊過於複雜，而不是未知；只要能蒐集並分析足夠的資料，就有機會更準確地描述病人的現況。

然而，第二個問題是：「根據現在的資料，預測兩週後會發生什麼？」即使 AI 已經完整掌握病人的所有資訊，仍然無法確定未來一定會如何發展。病人可能按時服藥，也可能自行停藥；可能感染新的病原，也可能因治療效果良好而快速康復。這些尚未發生的事件都會影響結果，因此 AI 能提供的通常不是唯一答案，而是不同結果發生的機率，例如病情惡化、再次住院或完全康復的可能性。

前者主要是在處理複雜度，後者則是在面對未知的未來。而這個差異，會直接改變人與 AI 協作的方式。

資訊超載，是怎麼一步步侵蝕人的自我信心的

如果只是抽象地說「複雜度越高，人越依賴 AI」，其實還不容易感受到問題的嚴重性。但研究把這件事拆解成具體的行為變化後，畫面就清楚很多。隨著任務複雜度從低到高，人放棄自我判斷、轉而同意 AI 建議的比例，出現了大幅上升，從 0.18 一路攀升到 0.34。單看這個數字，很容易被解讀成一件正面的事：人終於學會借助 AI 的力量了。但真正值得注意的，是另一組數字。在同樣的高複雜度情境下，人的「適當依賴度」（Appropriate Reliance）卻從 0.61 跌到只剩 0.50。也就是說，人依賴 AI 的行為變多了，但依賴得「恰不恰當」，卻反而變差了。

這兩個數字放在一起看，其實在描述一件很殘酷的事：當資訊量超過人能負荷的程度時，人不是變得更擅長判斷什麼時候該信任 AI、什麼時候該懷疑它，而是連「辨識 AI 有沒有出錯」的能力都一起被侵蝕掉了。人在複雜任務中向 AI 求救，聽起來像是一種聰明的策略性選擇，但如果同時也失去了糾錯能力，這種求救其實更接近一種認知上的棄守，而不是有意識的協作。

Diagnostic 和 Prognostic：理解現在，和預測未來

研究進一步把任務區分成診斷（Diagnostic）與預測未來（Prognostic）。
Diagnostic 比較像是在回答：「現在到底發生了什麼？」你可以根據目前掌握的資訊進行分析，找出比較合理的判斷。

Prognostic 則是在回答：「接下來可能會發生什麼？」這時候，AI 面對的就不只是資訊不足，而是未來本身就具有不可預測性。

這是一個很重要的區別，因為當 AI 在分析現在的狀態時，我們還有機會回頭檢查它使用了哪些資訊。但當 AI 開始預測未來時，即使它的答案看起來非常合理，也很難在當下證明它是對的。答案還沒有發生。這讓「AI 的準確率」變成一個不那麼完整的指標，因為模型過去預測得準，不代表它對下一個未知情境也一定可靠。

而這個差異，也具體反映在研究測得的數字上。在 Diagnostic 任務中，整體準確率達到 0.72，適當依賴度也維持在 0.56，代表人握有明確的數據，還能有效驗證 AI 的建議，扮演好「把關者」的角色。但換到 Prognostic 任務，整體準確率掉到 0.60，適當依賴度更只剩 0.45。原因並不難理解：一旦問題從「發生了什麼」變成「機率和範圍」，人就失去了驗證 AI 輸出的基準點，不知道該拿什麼去檢查一個關於未來的答案。

AI 越不確定，人真的會越相信它嗎？

這篇研究讓我特別在意的，是信任(Trust) 和 仰賴(Reliance) 之間的差異。我們談 Human-AI Interaction 時，很容易把兩件事當成同一件事：「使用者信不信任 AI？」以及「使用者有沒有採納 AI 的建議？」但其實兩者並不完全相同。

Trust 是人的主觀感受，Reliance 則是實際行為，也就是最後到底有沒有按照 AI 的建議做。研究發現，任務複雜度與不確定性會影響使用者的依賴行為，而這種變化並不一定伴隨相同程度的主觀信任變化。換句話說：人沒有變得更相信 AI，卻可能更常採用 AI 的答案。

這個現象在 Prognostic 任務中表現得特別明顯，研究稱之為一種「盲從效應」。有趣的是，人面對預測性任務時，探索行為其實是增加的，點擊次數變多了，看起來像是更謹慎、更願意花力氣去確認。但最終量測到的 AI 依賴指標（RAIR）卻反而從 0.27 上升到 0.38，代表人花了更多力氣探索，最後卻更加倒向 AI 的答案。
這其實揭露了一件很值得警惕的事：多點幾下、多看幾眼，不必然代表人真的在批判性地檢驗 AI，有時候那只是一種「面對未知時的認知妥協」——用行為上的忙碌，去掩蓋內心其實已經放棄獨立判斷的事實。

當人不知道答案，AI 就很容易變成捷徑

當任務越複雜，人越容易感覺自己沒有辦法完全掌握，這時候，依賴 AI 是非常自然的事情。問題在於：我的不確定，不等於 AI 的答案就一定可靠。尤其是 Prognostic 任務，如果問題本身就是對未來的預測，那麼 AI 和人其實都面對同一個限制：我們都不知道未來真正會發生什麼。
但 AI 的答案通常會以一個非常完整、非常有結構的形式呈現，一段文字、一個數字、一個推薦結果，看起來都很確定。於是就可能產生一個危險的錯覺：因為 AI 能給我答案，所以它應該比我更知道答案。這也是 Over-reliance 最值得警惕的地方，人不是因為證明了 AI 比自己可靠，所以才依賴 AI，有時候只是因為：自己實在不知道。

但有趣的是，任務太難時，人反而可能開始意識到自己的極限

研究中還有一個很有意思的現象。任務難度增加，並不代表依賴 AI 的行為會一路朝同一個方向變化。當任務難到讓人非常清楚地感受到：「這已經不是我自己可以輕易解決的問題。」人反而可能更積極地與 AI 協作。這個轉折其實很有意思，因為它說明了一件事：好的 AI 協作，不是讓人越依賴越好，而是讓人知道什麼時候自己做得了，什麼時候需要 AI 幫忙，以及什麼時候即使 AI 給了答案，也不能直接照做。

所以真正要設計的，不是信任 (Trust)，而是合理的依賴 (Appropriate Reliance)

這也是我目前最認同這篇研究的地方。在高風險場域，我們常常把「建立信任」當成 AI 設計的重要目標，這篇研究給了很重要的啟示：

信任本身不是最後的目標。因為太低的信任，可能讓人完全不使用一個其實有幫助的系統，但太高的信任，也可能讓人失去必要的懷疑。
真正重要的是 人的依賴程度，應該和 AI 在當下情境中的可靠程度相匹配。 有些情況下，人應該依賴 AI 多一點；有些情況下，人應該自己判斷；而有些時候，最好的答案其實是先不要急著採用。這才是高風險 Human-AI Collaboration 最難的地方。

下一篇，我將會介紹在人開始無法判斷時，會如何依賴 AI的行為研究之後，該篇研究誕生的設計啟示，我也將在後續的章節應用於產品設計的策略上。

參考文獻

Salimzadeh, S., He, G., & Gadiraju, U. (2024). Dealing with Uncertainty: Understanding the Impact of Prognostic Versus Diagnostic Tasks on Trust and Reliance in Human-AI Decision Making. Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems.