Azure
AWS
使用者實際體驗系統的方式,對於評估機器學習系統預測、建議及決策的真實作用十分重要。請務必在開發過程中,儘早取得各類型使用者提出的意見。
你的資料取樣方式是否可代表使用者 (例如:將用於所有年齡層,但你只有銀髮族的訓練資料) ,以及是否符合現實環境情況 (例如:將使用一整年,但你只有夏季的訓練資料)?
資料中的潛在偏誤可能會形成複雜的回饋循環, 加深既有的刻板印象。
使用可在模型中建構公平性、可解釋性、隱私和 安全性的訓練方法。
針對現實環境裡的各類 使用者、用途和使用情境,評估使用者體驗。
即使整體系統設計經過悉心規劃, 以機器學習為基礎的模型在套用到 真實的動態資料時,很少能夠完美運作。當實際使用的產品發生問題時,請思考 該問題是否與任何弱勢族群議題相呼應,並考量 短期和長期解決方案對於該問題的影響。