iT邦幫忙

第 11 屆 iT 邦幫忙鐵人賽

DAY 18
0

分享一個被攻擊的慘痛經驗QQ

第一次 暫時性(畢業後沒有)擁有桌上型電腦。

結果有一次想從我的IG把影片抓下來,search 線上載IG影片 進到了第一個網址(裡頭出現簡體字),結果 Redirect 好幾次,感覺有點怪,接下來 就連續出現色情網頁的畫面(關了又冒出),通知訊息狂跳(下載VPN的東西)。

重裝一次 Chrome ,還是會有類似的情況,好像是因為他把我的Google 帳戶也綁了(超可怕)。
立即 在筆電重設 Google 密碼,再重裝一次 Chrome 才沒問題 ~~~

最後用Windows內建病毒防護的掃描,掃一次,還好沒出現系統的問題,但不能確保真的沒問題,後來觀察了幾天,感覺有比較正常,不會狂跳奇怪的通知,和導到色情網站。不然真的要系統重灌。

這次心有餘悸,所以在Chrome裝了第三方防護 uBlock Origin (由 CPE6題 學長推薦)

再來是 把瀏覽器 JS 都關掉,要開時再手動開啟,確保安全。
還有 盡量能登出 就馬上登入 不要讓瀏覽器幫忙記憶密碼,當瀏覽器中毒時那些帳戶密碼才不會隨之被偷。


切回本日標題重點 : AI X Security

今天 我就搜尋 AI & 資安 就看到之前有看過的新聞(算是舊聞)。
文章標題 : 微調良性皮膚病變影像像素,竟誤導AI辨別為惡性病變!對抗式攻擊如何破壞機器學習?
內容描述 攻擊手法 adversarial attacks 對抗式攻擊,改了影像中的幾個pixel ,滲透ML的訓練集,導致誤判影像為異常病變。這是的場景是在 醫療,但其他ML的應用都有可能是攻擊的目標。
其實 我不太了解什麼是 adversarial attacks 對抗式攻擊 。所以這時候 有請 wiki ---->

Adversarial machine learning is a technique employed in the field of machine learning which attempts to fool models through malicious input.[1] This technique can be applied for a variety of reasons, the most common being to attack or cause a malfunction in standard machine learning models.
Machine learning techniques were originally designed for stationary and benign environments in which the training and test data are assumed to be generated from the same statistical distribution. However, when those models are implemented in the real world, the presence of intelligent and adaptive adversaries may violate that statistical assumption to some degree, depending on the adversary. This technique shows how a malicious adversary can surreptitiously manipulate the input data so as to exploit specific vulnerabilities of learning algorithms and compromise the security of the machine learning system

言而總之就是 誤導ML,使其產生錯誤的結果。

那有趣的是 趨勢科技臉書有寫到,發現有駭客用這招,試圖要找出防毒軟體所用機器學習模型的弱點來騙過偵測。趨勢反將一軍,也用對抗式機器學習方式 加強偵測。
真的是 你騙我 我騙你 看誰最會騙 XDD

[保護三措施]

1.為減少機器學習系統的攻擊面,防衛應設立在基礎架構的層面
2.為了抵抗對抗式攻擊,機器學習系統應打造得更為堅固
3.為了減少誤判,應該使用機器學習用於偵測及建立白名單的資安解決方案

詳情請看 : 微調良性皮膚病變影像像素,竟誤導AI辨別為惡性病變!對抗式攻擊如何破壞機器學習?

Ref :


上一篇
Day 17 人工資安組
下一篇
Day 19 我要成為 Googler +9
系列文
Predicting Inter Bus Arrival Times 30

尚未有邦友留言

立即登入留言