前幾天,我讓 CareCall AI 能夠處理正常回答、否定句、缺漏、不確定與持續未回應。今天要解決的問題更容易被誤解:當回答中出現不舒服或協助需求時,系統到底是在判斷什麼?
答案不是疾病,也不是病情嚴重程度。CareCall AI 第一版能做的,是根據有限且明確的回答,安排照護工作流程的處理順序。為了把這條界線說清楚,今天我用陳明德與李春美兩個虛構案例做對照。
陳明德已回答服藥與量測問題,但提到站起來有點頭暈,接著又說不確定這算不算不舒服,也不確定是否需要幫忙。系統沒有足夠資訊把這些回答整理成明確的「是」或「否」,因此狀態是「待人工確認」。畫面保留原始回答,列出不適狀態與協助需求兩項缺漏,下一步是請照護人員查看上下文並補齊資訊,而不是讓規則自行猜測。
李春美的情況不同。她明確表示現在不舒服,也主動要求聯絡照護人員協助。即使服藥與量測仍不確定,明確求助訊號仍應先交給人員接手,因此狀態是「優先處理」。缺漏不會被刪掉,只是可以在接手後繼續確認,不應讓資料不完整阻止人員先看到這個案件。
「優先處理」很容易被看成「病情比較嚴重」,但這不是目前系統有能力證明的事。它只表示工作佇列應優先讓照護人員處理。真正的健康判斷仍需要合適的專業人員、完整背景與既有服務流程。原型不能提供診斷、用藥建議,也不能把幾句回答轉成醫療結論。
今天我把這個界線做成共用規格,而不是只寫在文章裡。個案詳細頁會顯示進入該狀態的訊號、工作上的意思,以及「不是疾病診斷、醫療嚴重程度或醫療建議」的聲明。頁面底部也沿用相同文字,避免不同畫面出現互相矛盾的說法。
自動測試則固定檢查兩位案例的狀態、原因、缺漏與下一步確實不同。實際瀏覽器驗收中,陳明德顯示待人工確認與兩項未確認回答;李春美顯示優先處理與明確求助,同時保留另外兩項缺漏。Day 11 到 Day 14 的測試也都通過,代表今天的說明強化沒有破壞之前的規則。
好的照護工具不應假裝自己比現有資訊知道得更多。它可以清楚安排工作順序,但也必須同樣清楚地說明自己不能判斷什麼。