AI 越來越強大,而我們就更需要有能力防範它帶來的風險——這也是我今年選這個主題的原因。
在這三十天,我會把 AI 相關的資安問題弄清楚。這次一樣是邊學邊寫,如果有理解錯誤的地方,歡迎各方大神留言指正🫡
hihi!大家好我是歐娜。 今年是我第二次參加鐵人賽,這個活動真的非常好用來鞭策自己,用三十天學習一項新的知識(或是好多項!)。 非常熱血沸騰🔥 我發現這一兩年...
hihi,我是歐娜😺 第一週先釐清一件事:AI 資安跟傳統資安到底差在哪裡? 兩個都是「資安」,也都會出現 injection、資料外洩、權限濫用等等的問題,但...
hihi,我是歐娜😺 昨天提到,AI 資安麻煩的地方之一,是模型要自己去「理解」文字。 那如果今天 AI 真的出事了呢? 例如它突然講出一段不該講的內容,我們第...
hihi,我是歐娜😺 昨天分享到 Prompt Injection、Jailbreak、幻覺,講這講著好像容易會有一種感覺: AI Security 好像就是在...
hihi,我是歐娜😺 前幾天其實已經提過好幾次 Prompt Injection。 所以今天不是又要重新講一次: Prompt Injection 就是有人叫...