iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

30 天認識 AI Security:從 LLM 攻擊到 AI 防禦 系列

隨著大型語言模型與 AI Agent 逐漸被整合進各種應用,AI 也帶來了新的資安風險,本系列將用 30 天從基礎開始認識 AI Security,介紹 LLM 的運作方式、Prompt Injection、Jailbreak、資料外洩等常見威脅,並進一步探討 Guardrails、權限控管、RAG Security、AI Agent Security、Red Team 與防禦策略,希望從攻擊與防禦兩個角度建立完整的 AI Security 基礎。

參賽天數 24 天 | 共 24 篇文章 | 1 人訂閱 訂閱系列文 RSS系列文
DAY 21

Day 21|Logging & Monitoring:AI 被攻擊時我們看得到嗎?

今天要介紹的 Logging & Monitoring(日誌紀錄與監控)主要是在說如果真的有人正在攻擊我們的 AI,我們知道嗎?那首先來說說 Loggi...

2026-09-20 ‧ 由 chichi0513 分享
DAY 22

Day 22|AI Agent:當 AI 從回答問題變成自己完成任務

前面三週我們介紹了不少 AI Security 的攻擊與防禦方式,到了第四週我想把前面學過的東西組合起來,看看現在很常被討論的 AI Agent,AI Agen...

2026-09-21 ‧ 由 chichi0513 分享
DAY 23

Day 23|Tool Calling Security:AI 可以呼叫 API,那誰來決定它能做什麼?

繼昨天的 AI Agent,今天就先介紹 Tool Calling,其實就是使用者不需要自己指定要執行哪個 Function,LLM 可以根據需求判斷要使用哪個...

2026-09-22 ‧ 由 chichi0513 分享
DAY 24

Day 24|MCP Security:當 AI 開始連接各種外部工具

MCP(Model Context Protocol,模型上下文協定)是由開發 AI 助理 Claude 的美國新創公司 Anthropic 於 2024 年...

2026-09-23 ‧ 由 chichi0513 分享