iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

AI 這麼聰明,為什麼還會被騙?30 天搞懂 AI 資安 系列

AI 越來越強大,而我們就更需要有能力防範它帶來的風險——這也是我今年選這個主題的原因。

在這三十天,我會把 AI 相關的資安問題弄清楚。這次一樣是邊學邊寫,如果有理解錯誤的地方,歡迎各方大神留言指正🫡

參賽天數 17 天 | 共 17 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文
DAY 11

Day 11 - OWASP LLM07:Misinformation,AI 講得很像真的,不代表它真的對

hihi,我是歐娜😺 今天這一條,是大家平常使用 AI 最容易遇到的問題之一: AI 講錯了怎麼辦? 今天來看 OWASP LLM Top 10 2026...

2026-09-19 ‧ 由 歐娜 分享
DAY 12

Day 12 - OWASP LLM08:Hidden Context Exposure,藏在 Prompt 裡的東西真的藏得住嗎?

hihi,我是歐娜😺 如果有在開發 LLM Application,應該多少都碰過: System Prompt。 我們可能會在裡面寫: 你是一個客服助理。...

2026-09-20 ‧ 由 歐娜 分享
DAY 13

Day 13 - OWASP LLM09:Vector and Embedding Weaknesses,找得到「最像的資料」,不代表找對了

hihi,我是歐娜😺 如果有做過 RAG,應該很常看到這條流程: 文件 ↓ 切成 Chunk ↓ 轉成 Embedding ↓ 存進 Vector Databa...

2026-09-21 ‧ 由 歐娜 分享
DAY 14

Day 14 - OWASP LLM10:Improper Output Handling,AI 產生的內容不能直接相信

hihi,我是歐娜😺 前面幾天我們一直在看: 使用者丟進 AI 的東西安不安全? 像是 Prompt Injection、資料污染、RAG 找到錯誤內容等等...

2026-09-22 ‧ 由 歐娜 分享
DAY 15

Day 15 - AI 不只會回答了,Agent 是真的會幫你做事情

hihi,我是歐娜😺 前面幾天終於把 OWASP LLM Top 10 2026 一條一條看完了。 從 Prompt Injection、資料洩漏、Supply...

2026-09-23 ‧ 由 歐娜 分享
DAY 16

Day 16 - Agent 讀了一封 Email,結果就照著裡面的指令去做了

hihi,我是歐娜😺 昨天開始正式進入 Agent Security。 前面有提到一件很重要的事: 一般 Chatbot 的輸入,大部分是: 使用者 ↓ Pro...

2026-09-24 ‧ 由 歐娜 分享
DAY 17

Day 17 - MCP 到底是什麼?為什麼 AI 接上它之後風險也變大了?

hihi,我是歐娜😺 昨天講 Indirect Prompt Injection 時, 一直在提: Agent ↓ Email Website Database...

2026-09-25 ‧ 由 歐娜 分享