大家好，昨天我們聊完了強制性的歐盟 AI 法案。今天我們要來看另一個在實務合規上極具權重、也是多數企業落地 AI 風險管理的事實標準：NIST AI RMF（NIST 人工智慧風險管理框架）。

這套框架是由美國國家標準暨技術研究院（NIST）發布的。跟歐盟法案那種「不合規就重罰 7% 營收」的硬性法律不同，它是一套「自願性」的框架，沒有強制的法律效力。
但因為它寫得非常嚴謹、全面且極具系統化，目前美國政府機關、跨國企業以及多數資安審計師，都把這套框架當成 AI 風險管理的「底線教科書」。

NIST AI RMF 的核心由四大功能組成：GOVERN（治理） → MAP（對齊） → MEASURE（量測） → MANAGE（管理）。
今天我們先用最直覺的邏輯，來搞懂前兩大最基礎的 GOVERN 與 MAP。

一、 與傳統資安框架（NIST CSF）的對比

在我們開始深入四大功能前，先用一張對比表，看看這套 AI 風險框架跟傳統資安框架有什麼本質上的延續性：

二、 AI 的「七大可信賴特性」（Characteristics of Trustworthy AI）

NIST AI RMF 認為，要讓一個 AI 系統被使用者和社會所信任，系統在設計與營運時，必須具備以下這七大核心特性，這也是我們在評估模型風險時的基礎指南：

1. 安全（Safe）：AI 系統絕對不能對人類的生命安全、身體財產或生存環境造成傷害。
2. 安全與強韌（Secure & Resilient）：AI 系統必須具備抵禦網路攻擊與我們 Domain 2 學過的「對抗性樣本（如 FGSM/PGD 雜訊）」、「惡意投毒」等專屬威脅的抗性。
3. 可解釋與可詮釋（Explainable & Interpretable）：AI 不能是完全的黑盒子。人類必須能理解 AI 是如何做出決策的（可解釋），以及看懂其內部的數學運作邏輯（可詮釋）。
4. 隱私保護（Privacy-enhanced）：訓練與使用資料時，必須做好隱私增強（例如導入差分隱私、去識別化），不能有外洩敏感個資（PII）的風險。
5. 公平且偏見已受管理（Fair - with Harmful Bias Managed）：這是 GRC 極具代表性的重點！系統必須防範演算法中的歧視與偏見（例如：在篩選履歷、評估貸款時不能出現性別、年齡或種族的偏見）。
6. 可問責與透明（Accountable & Transparent）：AI 系統的開發、運作與測試流程必須對利益關係人（AI Actors）保持透明，且出了事情必須有清晰的責任歸屬與追溯機制。
7. 有效與可靠（Valid & Reliable）：AI 的預測正確率要夠高（準確性 Accuracy），且在各種不同的環境下，其表現都要一樣穩定與一致（可靠性 Reliability）。

三、 功能一：GOVERN（治理）—— 建立組織文化與結構

核心問題：「我們有沒有建立好組織規則與安全意識，讓大家能放心地使用 AI？」

GOVERN 是其他三個功能的「地基」。沒有良好的治理政策，後面的測試、量測和日常管理都只會是空中樓閣。

GOVERN 階段的必做事項：

• 制定組織的 AI 安全政策：明確規定哪些 AI 應用在公司內是合法的（例如：允許使用 Copilot 協助寫程式），哪些是絕對禁止的（例如：嚴禁將未去識別化的客戶個資輸入到外部的大模型中）。
• 建立 AI 風險意識文化（AI Risk Culture）：就像我們傳統資安要定期做防釣魚宣導一樣，企業必須對全體員工進行 AI 安全與合規意識訓練，不讓員工因為好玩而偷偷把機密原始碼貼到外部的 AI 平台去，這是 GOVERN 的軟實力落實。
• 定義角色與職責：
  • AI 擁有者（AI Owner）：對某個特定 AI 系統的開發、營運和風險負起最終與首要責任的角色。
  • 資料科學家/工程師：負責資料處理、模型準確性與安全性。
  • 資安團隊（SecAI / SecOps）：負責對 AI 的入口/出口進行安全測試（如紅隊演練、護欄系統、API 防禦）。
• 供應商管理（Supply Chain Management）：如果要引進第三方的 AI 模型或 API 服務，必須對供應商的資料治理進行安全審查，並在合約中載明責任與合規歸屬。

四、 功能二：MAP（對齊/映射）—— 找出 AI 的潛在風險

核心問題：「這隻 AI 可能帶來什麼風險？這些風險在當下的部署情境下有多嚴重？」

MAP 的核心目標是在系統上線前，系統性地把所有可能踩到的地雷通通盤點出來。

MAP 階段的兩大任務：

1. 風險識別：

MAP 階段需要全面盤點三種維度的風險：

• 技術風險：模型有沒有偏見？會不會發生模型漂移？有沒有被惡意投毒或發生隱私洩漏？
• 組織風險：員工會不會盲目相信 AI 的建議（過度依賴）？AI 出事了有沒有人能推翻它？
• 社會風險：這個 AI 的決策會不會造成不平等或偏見放大？

2. 情境化評估（Contextualization）

MAP 強調一個非常關鍵的觀念：同一個 AI 系統，放在不同的「部署與使用情境（Context）」下，風險等級與防守要求完全不同。

• 情境 A：你用「情緒辨識 AI」來分析使用者的表情與聲音，推薦他最適合的音樂歌單。
  • → 風險極低（就算 AI 猜錯了、預測失誤，也只是播了一首他不喜歡的歌，無傷大雅）。
• 情境 B：你用同一個「情緒辨識 AI」在工作場所評估面試者的表情，決定是否錄用他，或者是用來判斷他有沒有偷懶。
  • → 風險極高（一旦 AI 產生偏差，會直接侵犯求職者與員工的基本權利，這在歐盟法規中甚至是永久禁用的）。

所以，我們在評估風險時，不能脫離具體的使用情境（Context），必須為特定的使用情境客觀量身評估。

🔑 模擬題解析

Q: 某家保險公司引進了一款 AI 演算法來協助審查理賠。在評估該系統時，安全主管指出，這款 AI 雖然技術上非常先進，但必須針對『將其用於審查一般醫療險』與『將其用於審查高額人壽險』兩個不同的部署情境，分別進行獨立的風險評估。請問這最符合 NIST AI RMF 框架中的哪項實踐？

A. GOVERN 功能中的供應商管理
B. MAP 功能中的情境化風險評估（Contextualization）
C. MEASURE 功能中的偏差量測
D. MANAGE 功能中的事故回應

【正確答案】B

【解析】

• 抓解題關鍵字：針對兩個不同的部署情境（Context）、分別進行獨立的風險評估。
• 分析：NIST AI RMF 在 MAP 功能中非常強調「情境化（Contextualization）」的概念。雖然是同一個演算法，但用於「一般醫療險」與用於「高額人壽險」面臨的風險嚴重程度、被攻擊的誘因截然不同，必須依據具體使用情境分開評估。這完全符合 MAP 的定義。所以答案選 B。

🎯 今日學習筆記重點

• NIST AI RMF：美國政府與企業公認的自願性 AI 安全風險管理框架，核心是提升 AI 系統的**「可信賴度（Trustworthiness）」**。
• 七大可信賴特性：安全、安全與強韌（防禦攻擊）、可解釋與可詮釋、隱私保護、公平且偏見受控、可問責與透明、有效與可靠。
• GOVERN（治理）：打好合規地基。建立 AI 安全政策、形塑 AI 風險意識文化、定義角色職責（AI Owner）、管理供應鏈。
• MAP（對齊）：系統性找出潛在技術與組織風險，並強調必須結合**具體的使用情境（Context）**來評估，不可脫離情境談風險。

明天我們要來看 NIST AI RMF 的後半部：MEASURE（量測）與 MANAGE（管理）。看看我們如何用科學的客觀指標來幫 AI 系統進行「安全體檢」，以及當 AI 真的出事時，我們要怎麼做應變處理與日常維護。

我們明天見啦！