隨著大型語言模型與 AI Agent 逐漸被整合進各種應用,AI 也帶來了新的資安風險,本系列將用 30 天從基礎開始認識 AI Security,介紹 LLM 的運作方式、Prompt Injection、Jailbreak、資料外洩等常見威脅,並進一步探討 Guardrails、權限控管、RAG Security、AI Agent Security、Red Team 與防禦策略,希望從攻擊與防禦兩個角度建立完整的 AI Security 基礎。
今天要介紹的 Logging & Monitoring(日誌紀錄與監控)主要是在說如果真的有人正在攻擊我們的 AI,我們知道嗎?那首先來說說 Loggi...
前面三週我們介紹了不少 AI Security 的攻擊與防禦方式,到了第四週我想把前面學過的東西組合起來,看看現在很常被討論的 AI Agent,AI Agen...
繼昨天的 AI Agent,今天就先介紹 Tool Calling,其實就是使用者不需要自己指定要執行哪個 Function,LLM 可以根據需求判斷要使用哪個...
MCP(Model Context Protocol,模型上下文協定)是由開發 AI 助理 Claude 的美國新創公司 Anthropic 於 2024 年...