2026 iThome 鐵人賽

AI Security

Day 18

2026-08-18

119

0

你該防的不是駭客，是你自己的 AI：在本機驗證你的防線系列

Day 18｜同文字各判兩遍，36 組有 3 組答案不同

昨天結尾我說，明天換一個問題：同一個動作，該不該被做一萬次。今天先從最無聊的那一半開始，因為它兩行就寫完。前三道：給設定，不給篇幅假設早上起來帳單多了兩百美...

cyt0809

AI Security

Day 5

2026-08-18

98

0

新手上路不當砲灰！30 天一章一章啃完 CompTIA SecAI+ 備考筆記系列

LLM 是怎麼被教乖的？預訓練、SFT 到 RLHF 及其安全漏洞

大家好，昨天我們認識了深度學習的四大架構，特別是撐起現代 AI 的 Transformer。今天要來看看，天天在用的大語言模型，到底是怎麼「訓練成型」的。一個...

6r556ox

AI Security

Day 17

2026-08-18

288

0

AI 黑魔法：30 天拆解 AI 系統攻擊面系列

AI 黑魔法（17）：MCP 的工具定義，比工具本身更危險

上一篇介紹了 MCP 的三個基本角色：Host、Client、Server，以及三種能力：Tools、Resources、Prompts，這篇繼續了解，當一個...

Vivian

AI Security

Day 9

2026-08-18

87

0

Microsoft Foundry 的 AI Agent 攻防實戰：建立高資安與可治理的 Agent 系統系列

Day 09｜Microsoft Foundry 的 AI Agent 攻防實戰：Agent 記性太好，有時比忘記更麻煩

最後一輪，Alice 只問：幫我查一下剛送出的費用現在處理到哪裡了？這句話沒有要求核准，也沒有叫模型忽略規則。可是 session memory 裡較早的...

大魔術熊貓工程師

AI Security

Day 9

2026-08-18

104

0

LLM 應用資安：從 Prompt Injection 到 AI Red Teaming 系列

直接注入 vs 間接注入

查核資訊：本文內容於 2026-08-07 完成查核，依據包括 OWASP Prompt Injection Prevention Cheat Sheet、...

Eric

AI Security

Day 16

2026-08-17

136

0

AI 黑魔法：30 天拆解 AI 系統攻擊面系列

AI 黑魔法（16）：MCP 把工具接起來，也把風險一起接進來

上一篇我們把 Agent 拆成模型、工具、記憶、設定檔與自主迴圈，但當工具越接越多，就碰到一個工程問題：不同的 AI 應用，能不能用一種共同語言去連這些東西？...

Vivian