iT邦幫忙

2026 iThome 鐵人賽

DAY 28
0
AI Security

《30 天打造 AI Guardrails》系列 第 28 篇

Day 28|雲端 vs 地端總對照:覆蓋率、延遲、成本、資料主權

  • 分享至 

  • xImage
  •  

一張表,27 天的來源

這是 Day 1 承諾的「誠實對照表」。每一格標來源天數,讓讀者可以回去看條件。空格代表「未測」或「n 不足」,依 Day 27 的紅線不補。

 

一、內容安全(safety)與 PII

項目 Model Armor 地端 來源
RAI 四類別 內建,閾值可調 依 guard model 原版能力 Day 10 / 17
XSTest 過度拒絕率 【填入】 【填入】 Day 26
台灣語境敏感題誤判 【填入】 【填入】 Day 26
台灣 PII 型別覆蓋 內建 _/6 + 自訂 6/6(L1) Day 11 / 16
PII checksum 無 有 Day 11 / 16
可控還原 無 另一系列 Day 11
惡意 URL 清單比對 允許清單 Day 12 / 15

 

二、延遲

路徑 p50(ms) p95(ms) 來源
Model Armor 只開 injection Day 12
Model Armor 全開 Day 12
Vertex AI in-line(端到端增量) Day 13
地端 L1 Day 15
地端 L2 2B / 9B Day 18
地端 L3(觸發時) Day 22
地端串流 TTFT 增量 Day 21

 

三、成本

項目 雲端 地端 來源
每千次請求(護欄部分) API 計價 × 【填入】 GPU 時間 【填入】 Day 12 / 18
L3 每日估算 【填入】 【填入】 Day 22
初始建置 接 API:天 建置+微調:週 Week 3
硬體攤提 無 未計入(誠實標明) Day 7
維運人力 接近零 需維護閘道、模型、規則 Day 21

 

四、非數字維度

維度 雲端(Model Armor) 地端
資料主權 內容送至 GCP 區域 不出機
Air-gap 不可 可(Day 21 / 29)
政策強制力 floor setting,開發團隊關不掉 閘道層,需自建等價機制
可解釋性 類別 + 信心等級 L1 規則 id + L2 分數 + L3 理由
版本控制 平台決定,會退役(Day 8) 自己決定,自己負責重訓
更新速度 平台持續更新偵測引擎 依自己的語料回收與重訓週期
稽核證據 一張 floor setting 截圖 需自建報表(Day 29)
授權/產地 Google 服務條款 依 guard model(Day 17 三關)

 

怎麼讀這四張表

**不要找贏家。**每張表的贏家不同,而且贏的幅度依你的場景改變。三個典型場景的讀法:

  1. 對外客服、資料可上雲、團隊小:雲端線幾乎全面勝出。地端線只在 zh-TW 攔截率(表一)與 PII checksum(表二)有優勢,而這兩項可以用 Model Armor 加自訂 infoType 加一層薄薄的 L1 補。
  2. 資料不能出境:表五第一列直接淘汰雲端線,其他表只剩「地端線做得夠不夠好」的問題。這時表一的改寫掉幅與表四的維運人力是真正要面對的成本。
  3. 混合:對外用雲端、內部敏感流量用地端,共用同一套 eval 集與稽核格式。這是 Day 30 要講的收尾架構。

明天預告

Day 29:SIEM-ready 稽核日誌與 air-gap 離線更新包。地端線要對稽核交代的兩件事:每一筆判定的完整記錄怎麼送進 SIEM,以及沒有網路的環境怎麼更新規則、閾值與模型。


追蹤 AId3fend

Instagram @aid3fend。

更多 AI 資安筆記:aid3fend.com


上一篇
Day 27|行銷紅線:不寫 100%、每個數字附測試集與樣本數
下一篇
Day 29|SIEM-ready 稽核日誌與 air-gap 離線更新包
系列文
《30 天打造 AI Guardrails》 共 29 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言