鐵人檔案
AI 越來越強大，而我們就更需要有能力防範它帶來的風險——這也是我今年選這個主題的原因。
在這三十天，我會把 AI 相關的資安問題弄清楚。這次一樣是邊學邊寫，如果有理解錯誤的地方，歡迎各方大神留言指正🫡
hihi!大家好我是歐娜。 今年是我第二次參加鐵人賽，這個活動真的非常好用來鞭策自己，用三十天學習一項新的知識（或是好多項！）。 非常熱血沸騰🔥 我發現這一兩年...
hihi，我是歐娜😺 第一週先釐清一件事：AI 資安跟傳統資安到底差在哪裡？ 兩個都是「資安」，也都會出現 injection、資料外洩、權限濫用等等的問題，但...
hihi，我是歐娜😺 昨天提到，AI 資安麻煩的地方之一，是模型要自己去「理解」文字。 那如果今天 AI 真的出事了呢？ 例如它突然講出一段不該講的內容，我們第...
hihi，我是歐娜😺 昨天分享到 Prompt Injection、Jailbreak、幻覺，講這講著好像容易會有一種感覺： AI Security 好像就是在...
hihi，我是歐娜😺 前幾天其實已經提過好幾次 Prompt Injection。 所以今天不是又要重新講一次： Prompt Injection 就是有人叫...
hihi，我是歐娜😺 昨天講完 OWASP LLM01：Prompt Injection。 攻擊者想辦法影響模型的行為之後，很常出現的一個結果就是： 資料被拿走...
hihi，我是歐娜😺 昨天講 Sensitive Information Disclosure 時，有提到一個很重要的觀念： 模型不需要知道的資料，就不要給它。...
hihi，我是歐娜😺 前幾天講的風險，大部分都發生在 AI 系統「跑起來之後」。 像是： Prompt Injection：模型被惡意輸入影響 Sensiti...
hihi，我是歐娜😺 昨天講 Supply Chain 時，我最後留了一個問題： 「我拿進來的東西能不能信？」 像是 Model、Adapter、Packa...
hihi，我是歐娜😺 前幾天講的風險，大部分都在想： AI 會不會被騙？ 資料會不會外洩？ Model 會不會被動手腳？ 但今天這一條，要看的東西非常現實。...
