iT 邦幫忙::一起幫忙解決難題，拯救 IT 人的一天

0 Like 0 留言 231 瀏覽

鐵人賽 Security DAY 3

Agentic Era，一年來 LLM 到底都挖了些什麼洞！系列第 3 篇

技術 Day3. 什麼？都 2026 了微軟還有 Command Injection！

昨天聊完 ImageMagick 曾經出現過的兩個漏洞，今天終於要來淺析 XBOW 團隊的 A Shell Is Worth a Thousand Images...

whale120 ‧ 2026-09-12

0 Like 0 留言 181 瀏覽

鐵人賽 Security DAY 2

Agentic Era，一年來 LLM 到底都挖了些什麼洞！系列第 2 篇

技術 Day2. Imagemagick 的各種往事：轉個圖片怎麼就被駭了！

在正式進入明天的主題前，先來聊聊 Imagemagick 的漏洞歷史吧！ ImageMagick 101 ImageMagick [[1]] 是一套開源的圖片處...

whale120 ‧ 2026-09-11

3 Like 0 留言 108 瀏覽

鐵人賽 AI Security DAY 1

從 LLM、Agent 到 Guardrails：30 天打造可控、安全、可驗證的 AI Agent 系列第 1 篇

技術 Day 1｜我只是讓 AI 幫忙開工單，最後它差點變成公司管理員

這個系列會從一個能開 IT 工單的 Agent 出發，慢慢補上它真正需要的安全邊界。我還是學生，沒有真的在公司處理 Helpdesk，也沒有 Jira、內...

justin_log ‧ 2026-09-15 ‧團隊nutc imac

0 Like 0 留言 105 瀏覽

鐵人賽 AI Security DAY 1

AI 這麼聰明，為什麼還會被騙？30 天搞懂 AI 資安系列第 1 篇

技術 Day 01 - 把 AI 接近系統後，資安也變成我的工作了！

hihi!大家好我是歐娜。今年是我第二次參加鐵人賽，這個活動真的非常好用來鞭策自己，用三十天學習一項新的知識（或是好多項！）。非常熱血沸騰🔥 我發現這一兩年...

歐娜 ‧ 2026-09-09

0 Like 0 留言 125 瀏覽

鐵人賽 AI Security DAY 28

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 28 篇

技術濫用與成本攻擊：DoS、Token 榨取與速率限制

查核資訊：本文於 2026-08-25 查核 OWASP LLM10:2025 Unbounded Consumption、MITRE CWE-770 與...

Eric ‧ 2026-09-06

0 Like 0 留言 157 瀏覽

鐵人賽 AI Security DAY 27

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 27 篇

技術觀測性與稽核：看得見才守得住

查核資訊：本文於 2026-08-25 查核 OpenTelemetry 官方規格與敏感資料指引、OWASP Logging Cheat Sheet、RFC...

Eric ‧ 2026-09-05

0 Like 0 留言 211 瀏覽

鐵人賽 AI Security DAY 26

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 26 篇

技術敏感資料防護：PII 偵測與遮罩

查核資訊：本文於 2026-08-25 查核 NIST PII 定義、OWASP LLM02:2026 與 Presidio 官方文件，並引用同日完成的離線...

Eric ‧ 2026-09-04

0 Like 0 留言 170 瀏覽

鐵人賽 AI Security DAY 25

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 25 篇

技術最小權限與 Agent 沙箱化

查核資訊：本文於 2026-08-25 查核 OWASP LLM03:2026、OWASP Top 10 for Agentic Applications...

Eric ‧ 2026-09-03

0 Like 0 留言 157 瀏覽

鐵人賽 AI Security DAY 24

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 24 篇

技術 Guardrails 實戰：用框架建立護欄

查核資訊：本文於 2026-08-24 查核 NeMo Guardrails 0.23.0 release notes、Python check_async...

Eric ‧ 2026-09-02

0 Like 0 留言 144 瀏覽

鐵人賽 AI Security DAY 23

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 23 篇

技術輸出端防禦：過濾、審核與安全渲染

查核資訊：本文於 2026-08-23 查核 OWASP LLM10:2026、OWASP Cross Site Scripting Prevention...

Eric ‧ 2026-09-01

0 Like 0 留言 168 瀏覽

鐵人賽 AI Security DAY 22

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 22 篇

技術輸入端防禦：隔離、標記與驗證

查核資訊：本文於 2026-08-21 查核 OWASP LLM01:2026、OWASP Prompt Injection Prevention Chea...

Eric ‧ 2026-08-31

0 Like 0 留言 109 瀏覽

鐵人賽 AI Security DAY 21

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 21 篇

技術第三週回顧：一次端到端的 Agent 攻擊鏈

查核資訊：本文於 2026-08-16 查核 OWASP LLM01:2026、OWASP Top 10 for Agentic Applications...

Eric ‧ 2026-08-30

0 Like 0 留言 92 瀏覽

鐵人賽 AI Security DAY 20

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 20 篇

技術供應鏈風險：模型、套件與 MCP Server

查核資訊：本文於 2026-08-15 查核 OWASP LLM04:2026、Hugging Face Hub、SLSA v1.2 與 Model Con...

Eric ‧ 2026-08-29

0 Like 0 留言 176 瀏覽

鐵人賽 AI Security DAY 19

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 19 篇

技術工具呼叫 / Function Calling 的風險

查核資訊：本文於 2026-08-15 查核 OpenAI Function calling、OWASP LLM Top 10 2026、CWE-918 與...

Eric ‧ 2026-08-28

0 Like 0 留言 163 瀏覽

鐵人賽 AI Security DAY 18

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 18 篇

技術 Excessive Agency：Agent 的過度代理風險

查核資訊：本文於 2026-08-13 查核 OWASP LLM Top 10 2026 與 OWASP Top 10 for Agentic Applic...

Eric ‧ 2026-08-27

0 Like 0 留言 148 瀏覽

鐵人賽 Build on Google AI DAY 15

打造零成本企業級 AI Agent：以 Gemini 2.5 Flash 構建金融分析助手與維運實戰系列第 21 篇

技術【Day 21】實戰資安防禦：從 Prompt 注入防禦到環境金鑰隔離實務

「在 LLM Agent 走向 Production 的過程中，資安防禦不能只寄望於模型本身的『自我約束』。最穩健的 Defense-in-Depth，必須結合...

ariel_c ‧ 2026-08-26

0 Like 0 留言 216 瀏覽

鐵人賽 AI Security DAY 17

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 17 篇

技術向量資料庫與 Embedding 的安全議題

查核資訊：本文於 2026-08-12 完成查核。查核範圍包括 OWASP LLM09:2026 Vector and Embedding Weakness...

Eric ‧ 2026-08-26

0 Like 0 留言 166 瀏覽

鐵人賽 AI Security DAY 16

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 16 篇

技術資料投毒與知識庫污染

查核資訊：本文於 2026-08-10 依 OWASP LLM05:2026 Data and Model Poisoning、OWASP LLM01:20...

Eric ‧ 2026-08-25

0 Like 0 留言 217 瀏覽

鐵人賽 AI Security DAY 15

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 15 篇

技術 RAG 架構的攻擊面全解

查核資訊：本文於 2026-08-10 查閱 RAG 原始論文、OWASP LLM01:2026 Prompt Injection、OWASP LLM05:...

Eric ‧ 2026-08-24

0 Like 0 留言 149 瀏覽

鐵人賽 AI Security DAY 14

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 14 篇

技術第二週回顧：用十種情境測試範例應用程式的提示注入風險

查核資訊：本文於 2026-08-09 依 OWASP LLM01:2026 Prompt Injection、OWASP AI Testing Guide...

Eric ‧ 2026-08-23

0 Like 0 留言 157 瀏覽

鐵人賽 AI Security DAY 13

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 13 篇

技術多模態注入：圖片、語音與檔案

查核資訊：本文於 2026-08-09 依 OWASP LLM01:2026 Prompt Injection、Ollama Vision API 與原始研...

Eric ‧ 2026-08-22

0 Like 0 留言 211 瀏覽

鐵人賽 AI Security DAY 12

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 12 篇

技術 Hidden Context Exposure：外洩的不只是 system prompt

查核資訊：本文於 2026-08-09 依 OWASP GenAI LLM Top 10 2026 與 Ollama Chat API 查核，並以 LLM...

Eric ‧ 2026-08-21

0 Like 0 留言 318 瀏覽

鐵人賽 AI Security DAY 11

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 11 篇

技術 Jailbreak 手法分類學

查核資訊：本文於 2026-08-08 依 OWASP LLM Prompt Injection Prevention Cheat Sheet、OpenAI...

Eric ‧ 2026-08-20

3 Like 0 留言 593 瀏覽

鐵人賽 Security DAY 1

槍林彈雨下的資安防守：從品質觀念切入，帶開發者從零動手作資安 30 天系列第 1 篇

技術【Day 01】槍林彈雨下的防守戰：為什麼程式碼不只要寫得好，更要寫得安全？

💡 今日學習目標：理解為什麼傳統「功能正常」的軟體開發思維在資安面前遠遠不夠，並建立「軟體品質即資訊安全」的核心防守視野。 🤖 關於 AI 協作：這個系列...

rosschen ‧ 2026-08-20 ‧團隊第二屆技術創作市集

0 Like 0 留言 228 瀏覽

鐵人賽 AI Security DAY 10

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 10 篇

技術間接注入實戰：把指令藏進網頁與文件

查核資訊：本文內容於 2026-08-08 完成查核，依據包括 OWASP Prompt Injection Prevention Cheat Sheet、...

Eric ‧ 2026-08-19

0 Like 0 留言 204 瀏覽

鐵人賽 AI Security DAY 9

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 9 篇

技術直接注入 vs 間接注入

查核資訊：本文內容於 2026-08-07 完成查核，依據包括 OWASP Prompt Injection Prevention Cheat Sheet、...

Eric ‧ 2026-08-18

0 Like 0 留言 189 瀏覽

鐵人賽 AI Security DAY 8

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 8 篇

技術 Prompt Injection 原理拆解

查核資訊：本文於 2026-08-07 查核 OWASP LLM Prompt Injection Prevention Cheat Sheet、Instr...

Eric ‧ 2026-08-17

2 Like 0 留言 2648 瀏覽

技術別把 agent log 當安全機制：哪些動作一定要同步攔下來

Secret 已經被讀走、資料已經送出、production 也部署完了，這時才出現在 dashboard 上的紅色警示，頂多是事故證據。它無法把任何一件事收回...

ryanvale ‧ 2026-08-16

0 Like 0 留言 219 瀏覽

鐵人賽 AI Security DAY 7

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 7 篇

技術第一階段回顧與小型攻擊熱身

查核資訊：本文於 2026-08-07 完成查核，依據為 OWASP LLM Prompt Injection Prevention Cheat Sheet...

Eric ‧ 2026-08-16

0 Like 0 留言 179 瀏覽

鐵人賽 AI Security DAY 6

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列第 6 篇

技術模型只能提案，不能替自己授權：信任邊界與資料的影響範圍

查核資訊：本文於 2026-08-06 依 OWASP Authorization、Business Logic Security、OAuth 2.0、LL...

Eric ‧ 2026-08-15

技術 Day3. 什麼？都 2026 了微軟還有 Command Injection！

技術 Day2. Imagemagick 的各種往事：轉個圖片怎麼就被駭了！

技術 Day 1｜我只是讓 AI 幫忙開工單，最後它差點變成公司管理員

技術 Day 01 - 把 AI 接近系統後，資安也變成我的工作了！

技術 濫用與成本攻擊：DoS、Token 榨取與速率限制

技術 觀測性與稽核：看得見才守得住

技術 敏感資料防護：PII 偵測與遮罩

技術 最小權限與 Agent 沙箱化

技術 Guardrails 實戰：用框架建立護欄

技術 輸出端防禦：過濾、審核與安全渲染

技術 輸入端防禦：隔離、標記與驗證

技術 第三週回顧：一次端到端的 Agent 攻擊鏈

技術 供應鏈風險：模型、套件與 MCP Server

技術 工具呼叫 / Function Calling 的風險

技術 Excessive Agency：Agent 的過度代理風險

技術 【Day 21】實戰資安防禦：從 Prompt 注入防禦到環境金鑰隔離實務

技術 向量資料庫與 Embedding 的安全議題

技術 資料投毒與知識庫污染

技術 RAG 架構的攻擊面全解

技術 第二週回顧：用十種情境測試範例應用程式的提示注入風險

技術 多模態注入：圖片、語音與檔案

技術 Hidden Context Exposure：外洩的不只是 system prompt

技術 Jailbreak 手法分類學

技術 【Day 01】槍林彈雨下的防守戰：為什麼程式碼不只要寫得好，更要寫得安全？

技術 間接注入實戰：把指令藏進網頁與文件

技術 直接注入 vs 間接注入

技術 Prompt Injection 原理拆解

技術 別把 agent log 當安全機制：哪些動作一定要同步攔下來

技術 第一階段回顧與小型攻擊熱身

技術 模型只能提案，不能替自己授權：信任邊界與資料的影響範圍

標記使用者

技術濫用與成本攻擊：DoS、Token 榨取與速率限制

技術觀測性與稽核：看得見才守得住

技術敏感資料防護：PII 偵測與遮罩

技術最小權限與 Agent 沙箱化

技術輸出端防禦：過濾、審核與安全渲染

技術輸入端防禦：隔離、標記與驗證

技術第三週回顧：一次端到端的 Agent 攻擊鏈

技術供應鏈風險：模型、套件與 MCP Server

技術工具呼叫 / Function Calling 的風險

技術【Day 21】實戰資安防禦：從 Prompt 注入防禦到環境金鑰隔離實務

技術向量資料庫與 Embedding 的安全議題

技術資料投毒與知識庫污染

技術第二週回顧：用十種情境測試範例應用程式的提示注入風險

技術多模態注入：圖片、語音與檔案

技術【Day 01】槍林彈雨下的防守戰：為什麼程式碼不只要寫得好，更要寫得安全？

技術間接注入實戰：把指令藏進網頁與文件

技術直接注入 vs 間接注入

技術別把 agent log 當安全機制：哪些動作一定要同步攔下來

技術第一階段回顧與小型攻擊熱身

技術模型只能提案，不能替自己授權：信任邊界與資料的影響範圍