iT邦幫忙

鐵人檔案

2025 iThome 鐵人賽
回列表
Security

AI都上線了,你的資安跟上了嗎? 系列

本系列將以「AI 專家 × 資安實戰者」的視角,深入解析 AI 應用中常見的資安風險與防禦策略。從 Prompt Injection、資料中毒、模型竊取,到 AI 系統的合規治理與演練操作,每日一篇圖文並茂的教學,結合實務經驗與工具演示,協助開發者、資安人員與管理者建立「AI導入思維 + 資安防護邏輯」。期望透過這 35 天,打造兼具實戰與可教化的內容資源,推動台灣企業與開發者對 AI 資安的正確認知與落地實踐。

參賽天數 22 天 | 共 26 篇文章 | 3 人訂閱 訂閱系列文 RSS系列文 團隊AI 航海王
DAY 8

📍 Day 8-3:資料分級與 DLP:讓機密不再「被模型記住」

—— 模型不會忘記,你才會。 💬 開場:資料進了模型腦,還出得來嗎? 昨天我們把「誰可以做什麼」鎖好(RBAC/ABAC/PBAC)。 今天處理另一個靈魂拷問...

2025-09-09 ‧ 由 Fngi 分享
DAY 9

📍 Day 9:Secure RAG 手冊

—— 知道得少一點,犯錯就少很多。 🔎 前言:同一個 RAG,不同的風險曲線 昨天我們把資料分級與 DLP 撐起來了。 今天同樣是 Secure RAG,但改...

2025-09-10 ‧ 由 Fngi 分享
DAY 10

📍 Day 10:紅隊腳本:Prompt Injection × RAG 越權

—— 把風險演一遍,才知道哪裡會痛。 適用對象:RAG/Agent 專案 PM、資安/平台工程師、模型治理小組 安全聲明:以下內容僅供授權的內網演練使用;請於...

2025-09-11 ‧ 由 Fngi 分享
DAY 11

📍 Day 11:Tool / Function Gate——別讓模型亂按按鈕

—— LLM 可以「建議」,但所有「執行」都必須經過閘道。 對象:平台工程 / 資安 / 內部應用負責人 / LLMOps 關鍵機制:Allowlist →...

2025-09-12 ‧ 由 Fngi 分享
DAY 12

📍 Day 12:API 與 Webhook 安全——簽章、重放、租戶隔離

—— 外部介接是生命線,也是攻擊主動脈。 對象:平台工程、資安、後端、LLMOps / Integration 核心:簽章驗證(Signature)→ 重放防...

2025-09-13 ‧ 由 Fngi 分享
DAY 13

📍 Day 13:Secrets Management 與金鑰輪替

—— 金鑰不是保庇符,它是消耗品。 對象:平台工程 / 資安 / SRE / LLMOps 關鍵心法:最小曝光面(Least Exposure) × 短命憑證...

2025-09-14 ‧ 由 Fngi 分享
DAY 14

📍 Day 14:System Prompt 盾化與洩漏獵殺手冊

—— Prompt 不是文案,是機密安全政策。 對象:平台工程、資安、產品負責人、LLMOps 目標:不外洩、難重建、可偵測、可回滾、可追責 💬 開場:為...

2025-09-15 ‧ 由 Fngi 分享
DAY 15

📍 Day 15:資料最小化 × 差分隱私(DP)的實務可行性

—— 多知道不是能力,是風險;知道剛好才是設計。 對象:資料平台 / 資安 / 法遵 / LLMOps / 產品負責人 關鍵字:最小揭露(Least Reve...

2025-09-16 ‧ 由 Fngi 分享
DAY 15

📍 Day 15-2:VaultGemma 與差分隱私 LLM 的工程突破

—— Google 把差分隱私從「理論玩具」變成「產業級 LLM」。 對象:AI 工程師、資安人員、法遵顧問、資料平台負責人 主題關鍵詞:差分隱私 (DP)|...

2025-09-16 ‧ 由 Fngi 分享
DAY 16

📍 Day 16:微調資料治理(SFT/RLHF)與風險

—— 餵什麼資料,就會養出什麼樣的模型。 對象:AI 工程師、資料治理團隊、資安人員、法遵顧問 核心主題:資料採樣 | 標註品質 | 偏見控管 | 毒化防禦...

2025-09-17 ‧ 由 Fngi 分享