iT邦幫忙

2026 iThome 鐵人賽

DAY 30
1
Build on Google AI

打造高風險場域的智慧決策支援系統(AI for Social Good)系列 第 30

Day 30|結語:我的 AI for Social Good 方法論: 從真實世界打造下一代 AI 系統

  • 分享至 

  • xImage
  •  

這系列文章的起點,是一場救災工作坊。

那天邀請了幾位曾經歷風災的居民來分享,其中一位來自尼伯特颱風重創的東部社區。他描述的重點,是災後那幾天的混亂:物資一波一波湧進來,志工一團一團出現,有些巷子被重複發放了三次泡麵,有些角落卻始終沒人踏進去過。他說了一句話,我到現在都還記得:「我們根本不知道誰已經來過,誰還沒來過。」

那句話講的重點,是資訊不透明、協作沒有結構。這正是我後來一路帶著走的問題意識:高風險場域最致命的瓶頸,往往是決策品質的缺口——沒有人知道現在的全貌,沒有人知道下一步該優先做什麼,也沒有人知道自己的判斷,會不會跟隔壁的人重複或矛盾。

但那場工作坊教會我的,除了這個問題意識,更留下一種做事的方法。我沒有辦法坐在辦公室裡,靠著讀論文和看報表,猜出那句話背後真正的重量。我得先到現場,聽他講完整段經歷,看見那種混亂具體長什麼樣子,同理他在那幾天裡的無助與疲憊,才有可能開始想,一個系統該怎麼被設計,才能真正解決這個問題。

這四個動作——到現場、看見問題、同理他人、解決問題——後來變成我走過運動科學、醫療照護、救災協作這一路上,唯一沒有變過的方法。三十天下來,這句話越來越清晰:**AI for Social Good,說到底,就是從真實世界打造下一代 AI 系統。**方法的順序,是先蹲進真實世界,看見活生生的人卡在哪裡,帶著同理心把問題定義清楚,最後才輪到技術上場,去解決那個真正存在的問題;那個先有一個聰明的模型、再回頭找問題套用的做法,順序整個顛倒了。

這四個動作後來也變成貫穿整個第六章、乃至於整個系列的骨架。

三個場域,同一種結構性壓力

前面二十二天,把 AI 放進了三個看起來毫無關聯的場域。

運動科學裡,教練真正面對的問題,是資料太多、太雜,卻沒有人幫忙把數字轉成訓練決策;資料量本身從來不是缺口。選手表現下滑,可能是體能問題、心理狀態、還是教練沒察覺到的隱性訊號,Dashboard 只會呈現數字,不會告訴你該怎麼判斷。

醫療照護裡,藥品管理與臨床決策的錯誤成本極高,讓「可信任」比「聰明」更重要。我在現場就遇過一次配藥,醫生開的處方簽前後改了三次,現場交班紀錄卻不完全,資料缺漏的背後,是前線護理師人力不足,根本沒有餘裕把每一次異動都完整記下來。真正該被設計的重點,是責任歸屬,模型準確率只是其中一小塊——出錯的時候,誰該被通知、誰能介入、誰對結果負責。

https://ithelp.ithome.com.tw/upload/images/20260830/20120287qDzdYcFRnt.jpg

災害應變裡,資訊協作是真正的瓶頸。物資與人力到齊之後,真正卡住行動的,是沒有人整合現場的全貌。這一點在 2025 年 9 月花蓮光復的堰塞湖溢流事件裡,被放大到極端——馬太鞍溪上游堰塞湖潰決,洪水灌入光復市區,短短時間內奪走十餘條人命,數百戶民宅遭泥流掩埋。災後,大批被稱為「鏟子超人」的志工透過社群號召,自發搭火車前往當地協助清淤。這個現象一方面展現了台灣社會驚人的動員能量,另一方面也再次印證了那位尼伯特風災居民說過的話——當大量善意同時湧入,卻缺乏一套讓資訊透明流動的協作結構,重複與空白就會同時發生。

https://ithelp.ithome.com.tw/upload/images/20260830/20120287fE4EwoFu66.png

三個場域,使用情境天差地遠,但拆到底層,共享同一個結構性壓力:決策者必須在資訊不完整、時間有限、後果難以逆轉的情境下,做出判斷。 這也是第六章想收斂處理的命題。

AI 能力與限制的兩難

在走進第六章之前,第五章處理了一個更根本的問題:AI 能做的事情,正在快速擴張,這件事本身,除了帶來機會,也帶來一種新的兩難。

當 Agentic AI 開始自己執行任務,風險就不再只是「模型會不會答錯」,而是「AI 自己採取的行動,後果由誰承擔」。當 AI 讓「做出來」的成本快速下降,Product Team 真正需要練習的技能,反而變成了「判斷什麼時候不該做」——不是每一個能被自動化的環節,都應該被自動化;不是每一次 AI 給出的建議,都該被直接採納。

https://ithelp.ithome.com.tw/upload/images/20260830/20120287jdCqp3wDPr.png

這個兩難,貫穿了整個第六章的討論。原則彼此會打架——讓人看得懂、保留人類介入權、確認責任歸屬,每一項都需要時間,但高風險現場往往給不出這些時間。時間尺度需要被拆開——事前準備規則,當下只做最小動作,事後才做完整的理解與究責,責任也要跟著這三段時間,分配給對的角色。而在追求效率、信任、責任的路上,三者甚至無法同時被拉到最高,系統設計者真正的工作,是誠實判斷此刻該優先保護哪一個。

兩個場域之外的驗證:911 與太空

為了確認這些原則不是自己一廂情願的推論,第六章刻意找了兩個系列前段沒有觸及的場域,回頭做交叉驗證。

美國 911 急救通報現場的研究顯示,來電者最深的焦慮,往往來自「不知道接下來會發生什麼」的空白期,比危機本身更折磨人——這正好呼應了災害應變裡的資訊透明問題。研究裡的 AI 應用,例如即時翻譯、來電分流,全部都被設計成「事前校準規則、當下只給一個能被立刻理解的訊號、事後才做完整覆核」的三段式結構,AI 不需要在秒級決策裡同時做到完整解釋、完整介入、完整究責。

https://ithelp.ithome.com.tw/upload/images/20260830/20120287vJ43xBFSep.png

長期太空任務的團隊同步研究,則從另一個角度戳破了一個常見假設:團隊或人機協作對齊得越好,不代表決策品質越高。在需要批判性判斷的環節,過高的同步反而會壓抑質疑的聲音,讓團隊更容易錯過真正該被抓出來的問題。這個發現直接回應了效率、信任、責任這三者的拉扯——同步性能帶來效率與信任,卻可能悄悄侵蝕掉責任機制賴以運作的批判性空間。

一個是地球上最貼近日常生活的高風險場域,一個是人類目前所能觸及最極端的高風險場域。兩者交叉驗證下來,原則依然成立,這讓我更有信心,這套方法論是高風險決策系統設計裡相對通用的一條路,運動科學、醫療、救災這三個場域的呼應,並非單純巧合。

我的 AI for Social Good 方法論:到現場、看見問題、同理他人、解決問題

三十天走下來,如果要把整個過程收斂成一套可以帶著走的方法論,答案其實一直沒有離開開場那場工作坊教會我的四個動作。差別只在於,這四個動作,在高風險場域裡,各自該長什麼樣子。

到現場。 運動科學裡,這代表站到場邊,看教練怎麼喊暫停、怎麼在賽前臨時調整戰術,比坐在辦公室看訓練報表更能抓住真相;醫療照護裡,這代表跟著藥師看一次四重篩選,看藥師與護理師怎麼取藥、怎麼在流程裡互相確認,感受資訊在人與人之間傳遞時,哪裡會漏、哪裡會塞車;救災現場裡,這代表訪談實際有分配災區經驗的一線人員,聽他們描述資源怎麼分配、決策怎麼下,遠比翻看新聞畫面上的空拍圖來得真實。到現場的目的,是讓自己沒辦法再用抽象的方式想像問題,比起蒐集一份需求清單,這件事重要得多。

看見問題。 到了現場之後,真正該做的,是分辨哪些是表象、哪些是結構性的卡點。教練抱怨的「數據太多看不完」,底層其實是決策支援的缺口;醫護人員抱怨的「系統太多要切換」,底層其實是責任歸屬不清楚,沒有人敢把資訊留在單一入口;居民說的「不知道誰已經來過」,底層其實是協作沒有共同的資訊基礎。看見問題,考驗的是有沒有能力把現場的抱怨,翻譯成系統設計該回答的問題。

同理他人。 這是四個動作裡最容易被跳過、卻最決定設計品質的一步。真正的同理,是理解他們在做決定的那一刻,承受著什麼樣的壓力、恐懼與不確定,這比理解使用者「想要什麼功能」要深得多。理解教練不敢完全相信一個數字,是因為他要為選手的職業生涯負責;理解醫護人員寧可多做一次確認,是因為錯誤的代價他們比誰都清楚;理解那位居民說出那句話時的無力感,是因為他曾經眼睜睜看著資源在錯的地方被重複,也曾經在對的地方等不到任何人。同理心,讓後面的系統設計真正貼著人的處境,這件事,比技術正確更為根本。

解決問題。 最後一步,才輪到技術與方法論登場——把原則落地成事前、當下、事後三段時間的系統設計,把效率、信任、責任的取捨想清楚,找一個看似無關的場域回頭驗證原則是否通用。這一步之所以能走得穩,是因為前面三步已經把問題定義對了。技術從來不是 AI for Social Good 最難的部分,難的是願不願意先把自己放進真實世界,慢下來看見、慢下來同理,再動手解決。

收尾:回到那句「我們根本不知道誰已經來過」

三十天前,我帶著那位居民的話,開始問一個問題:高風險場域裡,AI 到底該扮演什麼角色?三十天後,答案沒有變得更簡單,但變得更清楚——AI 該扮演的角色,是幫人類在資訊不完整、時間有限的情境下,依然能做出可信判斷的協作夥伴,替人類做決定,從來就不是它的位置。

花蓮光復的洪水退去之後,那些自發搭火車北上南下的「鏟子超人」,證明了台灣社會從來不缺善意與行動力。真正稀缺的,是一套能讓善意被看見、被協調、被記錄的系統——讓下一次有人問出「我們根本不知道誰已經來過」的時候,答案已經準備好了。

這就是我理解的 AI for Social Good:到真實世界的現場,看見具體的問題,帶著同理心理解身處其中的人,最後才用技術把問題解決掉。順序不能顛倒,也沒有捷徑可抄。

從真實世界打造下一代 AI 系統,本身就是答案。


上一篇
Day 29|打造下一代智慧決策系統 以太空任務團隊同步研究,驗證效率、信任與責任的通則
系列文
打造高風險場域的智慧決策支援系統(AI for Social Good)30
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言