鐵人檔案
隨著大型語言模型與 AI Agent 逐漸被整合進各種應用，AI 也帶來了新的資安風險，本系列將用 30 天從基礎開始認識 AI Security，介紹 LLM 的運作方式、Prompt Injection、Jailbreak、資料外洩等常見威脅，並進一步探討 Guardrails、權限控管、RAG Security、AI Agent Security、Red Team 與防禦策略，希望從攻擊與防禦兩個角度建立完整的 AI Security 基礎。
今天要介紹的 Logging & Monitoring（日誌紀錄與監控）主要是在說如果真的有人正在攻擊我們的 AI，我們知道嗎？那首先來說說 Loggi...
前面三週我們介紹了不少 AI Security 的攻擊與防禦方式，到了第四週我想把前面學過的東西組合起來，看看現在很常被討論的 AI Agent，AI Agen...
繼昨天的 AI Agent，今天就先介紹 Tool Calling，其實就是使用者不需要自己指定要執行哪個 Function，LLM 可以根據需求判斷要使用哪個...
MCP（Model Context Protocol，模型上下文協定）是由開發 AI 助理 Claude 的美國新創公司 Anthropic 於 2024 年...
Agent Memory 是什麼？ LLM 本身不是真的像人類一樣把所有對話永久記在腦中，實際的 AI Application 通常需要透過額外的系統把需要長期...
前幾天我們介紹了 AI Agent、MCP 與 Memory，但一個 AI 系統通常不會全部從零開始開發，實際開發時我們可能會使用開源 Model、Datase...
前面幾天我們介紹了很多攻擊跟防禦方式，系統做完這些防禦之後我們怎麼知道它真的擋得住攻擊？其中一種方法就是 AI Red Teaming（AI 紅隊測試），Red...
上一篇介紹了 AI Red Team，它的工作是站在攻擊者的角度主動測試自己的 AI 系統，既然有負責攻擊的 Red Team，自然也會有負責防守的 Blue...
先決定 AI 到底需要做什麼 假設公司希望做一個內部 AI Assistant，員工可以詢問：「今年特休有幾天？」「公司的報帳規定是什麼？」「幫我找專案 A 的...
終於來到第 30 天，這 30 天從 AI Security 到底是什麼開始，一路介紹到 Prompt Injection、RAG、AI Agent、MCP、R...
