iT邦幫忙

2026 iThome 鐵人賽

DAY 2
1
自我挑戰組

AI for Social Good:打造高風險場域的智慧決策支援系統系列 第 2

Day 02|AI for Social Good:高風險領域真正需要被解決的是支持決策,而不是效率

  • 分享至 

  • xImage
  •  

本系列文章已全部轉移到: Build on Google AI 主題,請大家去這個主題追連載!感謝!
https://ithelp.ithome.com.tw/users/20120287/ironman/9079

AI for Social Good 指的是:利用人工智慧解決具有公共利益(social good)的問題,提升個人、社會或環境福祉,而非主要追求商業利益。

當大家談論 AI for Social Good 時,討論通常圍繞在「AI 可以做什麼」。AI 可以辨識病灶、預測災害、分析運動表現、協助行政作業……

剛開始應用 AI 自動化一些繁瑣的任務時,我也像是已知用火的智人般興奮,好多原先要花費很久時間的任務,有了 AI 的幫忙,一分鐘內就能完成。

然而,在參與運動科學、醫療照護與災害應變等產品後,我發現在高風險領域的 AI 與人的協作不是這樣運作的。在醫療、金融、自駕車等高風險領域,真正昂貴的並不是 「花了一分鐘」,而是 「做錯了一次決定」

想像一位護理師準備替病人發藥的場景。病人的處方幾分鐘前才剛被醫師修改,因為今天的檢驗數值與昨天不同,需要調整劑量。護理師眼前有好幾位病人等著照護,也有一長串待完成的工作。這時,他真正需要的,不是一個能把掃描條碼速度提升 20% 的 AI,而是一個能提醒他:「這張處方剛更新,請再次確認劑量。」的系統。
這個提醒,也許只花了幾秒鐘,卻可能避免一次給藥錯誤。

在高風險領域,人們並不全然的信任 AI,因為當人命關天時, AI 並不能代替人去負責。在高風險領域,人們更在乎的是「能不能準確無誤的完成任務」。

AI 在高風險領域真正的價值應該是:AI 能不能幫助人更快、更有信心地做出正確決策?

而從近年的 CHI 研究可以看到,Human-AI Interaction 的焦點正逐漸從自動化(Automation)轉向決策支持(Decision Support)。當 AI 開始參與醫療、公共服務等重要決策時,我們真正需要設計的,不只是模型本身,而是人與 AI 如何共同思考、共同判斷。

高風險系統真正的成本,叫做決策延遲 (Decision Latency)

過去幾年,我參與了三類看似毫不相關的產品。
第一類,是運動科學。每天都有新的訓練數據、恢復指標、生理資訊持續產生。資料已經收集的很齊全,然而困難的是,教練如何在有限時間內判斷今天的訓練策略。
第二類,是醫療照護。醫護人員每天都需要在高度忙碌的環境中完成大量工作。資訊來自不同系統、不同流程,而任何一個判斷失誤,都可能帶來連鎖影響。
第三類,是災害應變。災情回報、志工需求、物資分配、現場資訊同時湧入,每一分鐘都有新的狀況發生。最大的挑戰是資訊更新速度已經遠超過人能吸收的速度了。
這三個場域的共同瓶頸,是 Decision Latency(決策延遲):從資訊出現,到人做出正確決策之間所花費的時間。

很多產品團隊習慣只追蹤系統回應時間、API 延遲、模型推論速度。

但在高風險場域,其實還有另一個更重要的指標:人多久才能理解資訊,並採取正確行動?
例如:

  • 選手的疲勞數據已經出現異常,但教練隔天才發現。
  • 系統已經記錄了重要資訊,但醫護人員需要切換多個畫面才能找到。
  • 災情已經發生,但不同單位看到的是不同版本的資訊,因此無法立即協調資源。

https://ithelp.ithome.com.tw/upload/images/20260802/20120287bIonWRUbWI.png

技術沒有慢,慢的是:決策形成的速度。
而這個時間,往往決定了一套系統真正能創造多少價值。

從縮短 Decision Latency,到設計 Human-AI Decision Making
當我開始把不同領域的經驗放在一起觀察時,我慢慢發現,Decision Latency 並不是一個單純的資訊處理問題,而是一個決策設計(decision design)的問題。
如果資訊已經存在,模型推論也足夠快速,為什麼人仍然需要花這麼長時間才能做出決策?
原因往往不在於「沒有答案」,而在於人需要理解資訊、判斷可信度、整合不同來源的證據,最後才能對自己的決策負責。
這也是近年 Human-Computer Interaction(HCI)研究逐漸關注的方向。相較於早期著重於提升模型準確率或自動化程度,近年的研究開始把焦點放在人與 AI 如何共同完成決策(Human-AI Decision Making)。
研究者開始問的問題,不再只是「AI 能不能做出正確預測?」,而是:
人是否理解 AI 的建議?
人知道 AI 為什麼提出這個判斷嗎?
AI 應該在什麼時候介入?

如何設計互動,才能讓人適當信任 AI,而不是盲目依賴或完全忽略?
這樣的轉變,也反映出 Human-AI Interaction 的角色正在改變。AI 不再只是提供一個答案,而是協助人更快形成判斷、更有信心做出決策。
也就是說,縮短 Decision Latency 的方式,不只是讓 AI 算得更快,而是讓人思考得更有效率。
近幾年的人機研究也呈現出相同的趨勢。從 CHI 2023 探討人如何適當依賴 AI,到 CHI 2024 研究不同不確定情境下的人機信任,再到 CHI 2025 提出的 Human-AI Deliberation,以及利用大型語言模型協助使用者理解 AI 建議,都指出一件事:AI 的價值,不只是提高自動化程度 (Automation),而是提升決策品質 (Decision Quality)。

也正因如此,在高風險領域,我越來越傾向把 AI 視為一個決策夥伴,而不是一個自動化工具。

AI for Social Good,不只是 Automation,而是 Decision Augmentation
如果 Decision Latency 的本質,是讓人更快完成正確決策,那麼下一個問題就是:AI 應該如何參與這個決策過程?
近年的 Human-AI Interaction 研究給出的答案,並不是持續提高自動化程度,而是設計能夠支持人類判斷的 Human-AI Decision Making。研究焦點逐漸從「AI 能不能取代人」,轉向「AI 如何與人共同完成決策」。
這也是我為什麼越來越少用「效率工具」來看待 AI。
我更喜歡把 AI 視為一個 Decision Augmentation System(決策增強系統)。
它的工作不是取代專業,而是降低專業工作的認知成本。
不是告訴人答案,而是:
幫助整理大量資訊。
提醒可能被忽略的風險。
建立不同資訊之間的關聯。
提供可解釋的決策依據。

如果 AI 能做到這些,它提升的就不只是工作效率,而是整個團隊的決策品質。
而決策品質,才是真正影響社會系統韌性的關鍵。

這也是我想寫這個系列的原因
接下來的 30 天,我不會只分享 AI 工具怎麼用,也不會只是介紹做過哪些專案。
我更想討論的是:如何設計一套真正能協助人做決策的 AI 系統。
從運動科學、醫療照護到災害應變,這些看似不同的領域,都讓我相信一件事:

AI 最重要的價值,不是替人工作。而是讓人在面對複雜世界時,能做出更好的決策。

下一篇,我會開始分享高風險產品的共同挑戰:
資訊過載時間壓力,以及認知負荷如何影響人的決策品質。


上一篇
Day 01|為什麼我開始關注高風險場域的 AI 應用?
系列文
AI for Social Good:打造高風險場域的智慧決策支援系統2
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言