iT邦幫忙

鐵人檔案

2025 iThome 鐵人賽
回列表
Security

AI都上線了,你的資安跟上了嗎? 系列

本系列將以「AI 專家 × 資安實戰者」的視角,深入解析 AI 應用中常見的資安風險與防禦策略。從 Prompt Injection、資料中毒、模型竊取,到 AI 系統的合規治理與演練操作,每日一篇圖文並茂的教學,結合實務經驗與工具演示,協助開發者、資安人員與管理者建立「AI導入思維 + 資安防護邏輯」。期望透過這 35 天,打造兼具實戰與可教化的內容資源,推動台灣企業與開發者對 AI 資安的正確認知與落地實踐。

參賽天數 22 天 | 共 26 篇文章 | 3 人訂閱 訂閱系列文 RSS系列文 團隊AI 航海王
DAY 1

📍 Day 1:AI 都上線了,你的資安也跟上了嗎?

🔰 系列前言:這 35 天,我要寫些什麼? 35 天主題:從 AI 專家的角度,解剖 AI 應用裡的資訊安全陷阱。 在模型橫空出世、API 橫行四海、Cha...

2025-09-02 ‧ 由 Fngi 分享
DAY 2

📍 Day 2:AI 模型會偷資料嗎?

—— 拿 prompt 當筆記本,總有一天你會後悔。 🔰 系列前言:這 35 天,我要寫些什麼? 35 天主題:從 AI 專家的角度,解剖 AI 應用裡的資訊...

2025-09-03 ‧ 由 Fngi 分享
DAY 3

📍 Day 3:資安工程師每天都在做什麼?

—— 如果你以為他們都在抓駭客,其實他們每天都在 patch 你寫的 prompt。 💬 開場:你想像中的資安工程師是什麼樣子? 🎬 電影裡的資安工程師: 深...

2025-09-04 ‧ 由 Fngi 分享
DAY 4

📍 Day 4:Prompt 為什麼是新的攻擊面?

—— 一句話毀掉整場 RAG,駭客的時代正在 prompt 裡重啟。 💬 回顧與引入 昨天我們聊資安工程師日常,說他們不是在抓駭客,而是在修你寫 prompt...

2025-09-05 ‧ 由 Fngi 分享
DAY 5

📍 Day 5:讓模型閉嘴:拒答設計該怎麼做?

—— 比教小孩說「不要」還難的,就是教 LLM 懂得拒答。 🧠 為什麼模型需要學會「拒答」? 想像一下: 你做了一個 AI 金融助理,結果有人問:「我該把資產...

2025-09-06 ‧ 由 Fngi 分享
DAY 6

📍 Day 6:Embedding 的資安盲點:你丟進去的資料還拿得回來嗎?

——「向量化」的世界,安全感常常只是錯覺。 🤖 為什麼要談 Embedding 的資安問題? 我們喜歡把內部知識轉成向量丟進資料庫: FAQ 文件 SOP...

2025-09-07 ‧ 由 Fngi 分享
DAY 7

📍Day 7:AI 資安日誌該怎麼設計?Log 起來才算真的管得住

—— 模型很聰明,但你知道它昨天都做了什麼嗎? 🧠 為什麼 AI 系統需要記錄日誌? 當傳統系統出問題,我們會查: 使用者誰、何時、從哪裡登入 觸發了哪些功...

2025-09-08 ‧ 由 Fngi 分享
DAY 7

📍 Day 7-2:AI 供應鏈資安警報!小心模型名稱空間被重複使用

—— 你下載的模型真的來自原廠嗎?還是攻擊者假冒的? 🧨 Palo Alto Unit 42 最新研究警告 近期,Palo Alto Networks 的 U...

2025-09-08 ‧ 由 Fngi 分享
DAY 8

📍 Day 8:你的 AI,有實作 RBAC 嗎?

—— 不是每個人都該問模型所有事,尤其是財務預算跟老闆薪水。 💬 開場:PM 的一句話,讓你頭皮發麻 PM:「我們把 AI 助理開給全公司用吧,越多人用越有價...

2025-09-09 ‧ 由 Fngi 分享
DAY 8

📍 Day 8-2:警戒 AI 代理風險!17 種 MCP 攻擊手法全公開

—— 當你在串 AI agent,它們也在暴露自己。 🤖 什麼是 MCP? MCP(Multi-Component Program)指的是一個由多個組件組成的...

2025-09-09 ‧ 由 Fngi 分享