iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Security

AI 這麼聰明,為什麼還會被騙?30 天搞懂 AI 資安 系列

AI 越來越強大,而我們就更需要有能力防範它帶來的風險——這也是我今年選這個主題的原因。

在這三十天,我會把 AI 相關的資安問題弄清楚。這次一樣是邊學邊寫,如果有理解錯誤的地方,歡迎各方大神留言指正🫡

參賽天數 5 天 | 共 5 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文
DAY 1

Day 01 - 把 AI 接近系統後,資安也變成我的工作了!

hihi!大家好我是歐娜。 今年是我第二次參加鐵人賽,這個活動真的非常好用來鞭策自己,用三十天學習一項新的知識(或是好多項!)。 非常熱血沸騰🔥 我發現這一兩年...

2026-09-09 ‧ 由 歐娜 分享
DAY 2

Day 02 - 以前的攻擊要寫程式,現在打一句話就好!?

hihi,我是歐娜😺 第一週先釐清一件事:AI 資安跟傳統資安到底差在哪裡? 兩個都是「資安」,也都會出現 injection、資料外洩、權限濫用等等的問題,但...

2026-09-10 ‧ 由 歐娜 分享
DAY 3

Day 03 - AI 講錯話的原因其實不只一種

hihi,我是歐娜😺 昨天提到,AI 資安麻煩的地方之一,是模型要自己去「理解」文字。 那如果今天 AI 真的出事了呢? 例如它突然講出一段不該講的內容,我們第...

2026-09-11 ‧ 由 歐娜 分享
DAY 4

Day 04 - AI Security,不是把模型顧好就沒事

hihi,我是歐娜😺 昨天分享到 Prompt Injection、Jailbreak、幻覺,講這講著好像容易會有一種感覺: AI Security 好像就是在...

2026-09-12 ‧ 由 歐娜 分享
DAY 5

Day 05 - OWASP LLM01:Prompt Injection,不只是「忽略前面的指令」

hihi,我是歐娜😺 前幾天其實已經提過好幾次 Prompt Injection。 所以今天不是又要重新講一次: Prompt Injection 就是有人叫...

2026-09-13 ‧ 由 歐娜 分享