前言

人機互動（HCI）越來越懂你，卻也更容易誤解你。感測器蒐集生理訊號、模型推估情緒、系統給出建議 ── 整條鏈路若忽略 偏誤（bias）、隱私（privacy） 與 以人為本（human-centeredness），就可能在最需要小心的情境裡做出最強硬的判斷。這篇文章希望用務實的角度，整理 HCI 開發中常見的倫理風險，並給出能直接落地的設計原則與檢核清單，讓會的系統也能懂分寸。

一、偏誤

偏誤是系統性誤差，常見來源包含：

• 資料偏誤：某族群樣本過少（年齡、性別、膚色、健康狀態等），導致模型在該族群的錯誤率偏高。
• 標註偏誤：情緒或意圖標註帶主觀性（不同標註者標準不一），或受情境語境影響。
• 互動偏誤：介面設計引導了某種回覆（預設選項、按鈕文案），讓使用者被迫「看起來」同意。
• 量測偏誤：硬體接觸品質差、光線/溫濕度、語音口音等，讓特定情境下錯誤率升高。

實作對策

1. 分層評估：離線報告務必分年齡/性別/膚色/裝置型號/語言口音，拒絕只看整體平均。
2. 敏感情境守門員：在「低置信度」或「高風險」情境一律採取保守策略（延後判斷、請求確認）。
3. 資料補強：針對表現最差分層做目標性蒐集與再訓練（active learning）。
4. 介面消歧：避免「暗示型」文案與預設選項；重要操作需二次確認與撤銷。

二、隱私

生理與行為數據屬於敏感個資，原則是能不收就不收，能不留就不留。

設計原則：

• 明確告知與同意：用途、蒐集項目、保存期限、如何刪除/退出。
• 最小化：優先儲存衍生特徵（如 HRV 指標）而非原始波形；可只保留統計量或匿名化摘要。
• 邊緣優先：能在裝置端運算就不送雲端；必要上傳走加密通道。
• 資料生命週期：到期自動刪除；異常存取要有異常通知與稽核軌跡。
• 在地法規：遵循個資法與相關醫療/穿戴規範；境外傳輸與第三方分享要另行告知。

三、以人為本

• 可見與可控：讓使用者看見模型的信心與理由（簡短可讀），並可一鍵關閉/暫停/改標。
• 錯誤成本最小化：設計可逆操作與冷卻時間，避免誤判造成連鎖動作。
• 語氣與回饋：用解釋式、非指令式文案（例如：「看起來你可能有點緊張，需要我把內容調簡短嗎？」）。
• Human-in-the-Loop：把人類判斷放進模型流程中，不讓系統完全自動化，關鍵步驟由人審、改、給回饋，模型再學習與修正。

四、風險矩陣：何時放慢、何時放行

以兩軸評估：影響程度 × 模型置信度。

• 高影響 × 低信心 → 暫不決策（請求確認/交人審），例如健康建議、駕駛安全。
• 高影響 × 高信心 → 雙重確認（解釋＋同意）再執行。
• 低影響 × 低信心 → 提供多選項（不自動套用），記錄偏好做學習。
• 低影響 × 高信心 → 溫和自動化，保留撤銷。

五、開發者可直接套用的倫理小清單

上線前檢核

1. 分層效能：最弱兩個分層的 F1/錯誤率已達最低標？
2. 低置信策略：<τ 的輸出是否一律採「詢問/延後/不做」？τ 如何校準？
3. 敏感資料：是否能以特徵替代原始數據？保存多久？
4. 使用者控制：關閉、暫停、刪除、下載資料是否都可用？
5. 錯誤救濟：誤判時的聯絡/退款/撤銷流程是否明確？
6. 監測面板：是否追蹤輸入分佈、模型信心、人工覆核率、各分層錯誤率？
7. 文件可讀：有簡短的「為什麼需要這些資料、如何保護你」說明頁嗎？

六、實務流程：三層守門員（Policy → UX → Model）

1. Policy 層：定義不可自動化的紅線情境（醫療診斷、金流關鍵步驟）。
2. UX 層：在紅線或低信心時改用「人類可確認」的介面（雙重確認、解釋卡、撤銷鍵）。
3. Model 層：閾值校準、代價敏感學習、分層重加權；線上監測漂移，自動降級到保守模式。

七、度量與回饋：別只看準確率

• 公平性指標：各分層錯誤率差異（差距小於門檻才可發布/擴量）。
• 信心運用：低信心比率、低信心時的使用者滿意度。
• 人因指標：可撤銷率、誤觸率、壓力量表（如 NASA-TLX、SAM）。
• 營運指標：人工覆核量、覆核通過率、事故處置時間（MTTR）。

結語

HCI 的價值不只把事情做準，更要把人放在前面。把偏誤、隱私、與以人為本當成設計的地基，而不是附註；當我們在一開始就設好邊界與責任，系統才會在真實世界裡既有用、也善待人。