2026 iThome 鐵人賽

AI Security

最新文章熱門文章

選手 33 文章 821

AI Security

Day 3

2026-09-02

240

30 天認識 AI Security：從 LLM 攻擊到 AI 防禦系列

Day 3｜LLM 面臨哪些安全威脅？

上一篇我們介紹了 LLM 的基本運作方式，知道大型語言模型會根據使用者輸入的內容與上下文，一步一步預測下一個 Token，最後產生完整的回答。了解 LLM 如...

chichi0513

AI Security

Day 3

2026-09-04

240

把 AI 接進 SOC 系列

【Day 3】蒐集、分析、呈現：整體架構

前兩天講了專案背景跟網段怎麼分。今天想退一步,把整個系統切成三層來看,順便交代一下這三層目前各自做到什麼程度。三層長怎樣大概是這樣的關係:蒐集層：負責把事件...

vincentyc

AI Security

Day 12

2026-08-12

240

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 12｜你沒看到的 MCP 工具描述：agent 說乾淨可能只是沒去看

昨天結尾我答應了一件事：回頭讀 Day 8 那張清單的描述那一欄，而且是逐字讀完，不抽樣。今天早上讀完了。第一支就讓我停下來。那是我裝在瀏覽器自動化那台上的...

cyt0809

AI Security

Day 16

2026-09-12

239

打開黑盒子：大型語言模型的機制解釋性入門系列

Day 16｜模型更新之後，我們能替它做一次 git diff 嗎？

上一篇，我們透過 Attribution Graph，追蹤一個模型在特定 prompt 下，可能用了哪些中間 features 產生答案。但如果模型更新了呢？昨...

howardhsuuu

AI Security

Day 15

2026-08-24

239

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

RAG 架構的攻擊面全解

查核資訊：本文於 2026-08-10 查閱 RAG 原始論文、OWASP LLM01:2026 Prompt Injection、OWASP LLM05:...

Eric

AI Security

Day 7

2026-08-07

237

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 7｜AI 幻想出來的套件名，有可能變成真的

昨天我們把來路不明的腳本關進容器裡跑，重點是「執行的時候給它多少」。今天走到前面一格：那個東西是怎麼進到你機器上的。多半是這樣。你問 AI 怎麼做某件事，它給...

cyt0809