iT邦幫忙

DAY 3
1

生活資安五四三!從生活周遭看風險與資訊安全~番外篇系列 第 3

第三篇,AI人臉濫用(一),Zao、FaceApp的隱私問題與App安全

原本沒有要那麼早講這一個主題的,不過受到近日爆紅的Zao,還有一些新聞事件,還是先來聊聊,然後再慢慢談到我原本想聊的主題。(P.s.AI人臉濫用,大家可能先想到政府監控,這次談的不是這個面向)。

相信很多人下載App根本沒看清楚說明就繼續使用了

有趣的App應用,總是吸引一般民眾的目光。前幾天,看到在大陸工作的同學貼Zao合成後的影片,相當吸引人,就是這幾天正夯的Zao。

相信大家都有注意到,這是中國早年盛行的交友App「陌陌」,其公司新開發的App。大致上,Zao用戶在拍照或上傳照面後,還會經過一道肖像權驗證,張嘴、向右轉頭、抬頭,也就是加入所謂動作驗證的程序,來確定本人,或許應該也能搜及到更多特徵。

從Zao的使用效果來看,看到朋友貼出的影片,可將電影主角換成自己臉的效果,效果相當不錯,完成度高,這也顯示AI人臉技術的進步。(對於電影產業而言,應該非常能夠簡化一些作業,有人被封殺就換能快速套另一個人臉,省去很多麻煩XD,要裝扮角色應該也很容易,畫個大頭照就能改變臨演的面容)

https://ithelp.ithome.com.tw/upload/images/20190905/20013608ykjbyUYrKZ.jpg
這裡擷取網路上Youtuber的分享,李奧納多整個變臉成功。(畫面擷取自Youtube)有興趣可點閱觀賞https://youtu.be/gBdl9ymqETM?t=201

在這主題之下,當然就不談AI人臉技術的發展,這裡要大家注意的,是Zao引來的隱私爭議。主要有民眾發現,下載使用的用戶協議,只要繼續使用則被視同接受,並且竟然聲稱他們公司能擁有App上所有產生圖片的擁有權,用於行銷等。(甚至,如果一般人也能將別人發布的影片套用成自己,到底誰是原創?後面再談)

另外這裡的隱私問題,新聞報導有提到:

隱私組織擔心,這些個人照片的授權,可能被用來複製人們臉上的特徵,以執行基於人臉辨識的支付服務。
在強烈的批評下,陌陌緊急在8月31日變更其政策,刪除永久及免費使用的條款,還承諾當使用者刪除上傳至該程式的照片時,也會於伺服器上將它們移除。由於爭議不斷,中國最受歡迎的即時傳訊軟體微信,也禁止用戶分享來自Zao的內容。(https://www.ithome.com.tw/news/132823)
https://ithelp.ithome.com.tw/upload/images/20190909/20013608vjOFa7fiFB.jpg
(畫面擷取自iThome)

其實這裡也談到另一個面向 ,就是大家生活隨身的手機使用已經習以為常,下載App也是很普遍的行為。

但是,下載安裝的APP是安全的嗎?隱私宣告是否暗藏陷阱,相信很多人根本沒看清楚說明就繼續使用了。其實可以多想想。

多看看新聞總是好,例如市集上其實也有可能出現假防毒App、山寨版App或是各式有惡意的App。直到一陣子被發現,才被平臺商(Google、Apple)移除。

除了這些這些存有歹念的App,還有合法的App被滲透,更是令人防不勝防,像是前陣子知名的文件掃描程式CamScanner,下載次數也破億了,但被發現其廣告函式庫被藏惡意程式。事實上,過去這款程式的版本都是正常,但在一次更新後,因為CamScanner合作的不良廣告主, 一個合法程式一夕之間成為惡意軟體

另外還有像是之前資安業者也有揭露,有手電筒的App,卻要求提供手機通訊錄,或是記帳類型的App,要求取得使用者的所在位置等狀況。這些隱私相關的宣告與同意事項,很多人可能沒有注意。

最近看到一句不錯的詞是Turst in the Untrusted World,一般使用者對於現在的風險認知,網路上不容易說的清楚,因為變化很快,過去提倡的觀念,可能民眾好不容易學到了,但是新的觀念已經出來了,舊的觀念不對了。

或許幾個原則性觀念至少要知道

一、 軟體(包含韌體)是人寫的,一定會有漏洞與疏失。所以修補很重要
二、 風險一定都有,只是大小而已。
三、 新技術與交錯運用也會有新的威脅出現

回到近來很夯人臉變換類型App,在Zao之外,在七月全球也有一款爆紅的App,是俄羅斯公司推出的FaceApp,當時他們推出了新的濾鏡功能,可以產生自己看起來變老或變年輕的樣子。同樣也顯示了現在AI人臉技術的能力。

這裡的隱私問題,新聞報導有提到:

該App也惹來美議員擔心該App可能對美國的國家安全及民眾隱私帶來風險。(https://www.ithome.com.tw/news/131916)
https://ithelp.ithome.com.tw/upload/images/20190909/20013608hlNlG3IHvh.jpg
(畫面擷取自iThome)

從這些人臉技術的能力來看,門檻已經越來越低。其實,在2017年DeepFaceLab就已有這樣的技術並帶來軒然大波,有興趣的可以去瞭解。

下一篇將討論原本我想探討的:AI人臉濫用,隱私問題之外,更要關注的是「有影片將不再有真相」

P.s.在臉書上的人臉辨識功能,過去帶來了很大的方便性,要標註朋友時,系統已經幫你能夠識別出來,你只要點一下就可以,而不用多花時間點擊人臉位置,輸入名稱讓系統帶出建議,或是一時想不出對方臉書的ID而卡住。
不過,記得在多年前,就聽聞臉書就在重視隱私的歐洲,將人臉辨識功能預設為關閉,不像其他地區是預設開啟需自行關閉。話說,過去我也有開啟對方標註需要自己審核的設定。今天剛好又看到一則新聞,是臉書在隱私考量下,對其人臉辨識機制有很大的調整。

https://ithelp.ithome.com.tw/upload/images/20190909/20013608c4JumkXwNK.jpg
在新的臉部辨識設定上線之後,由於該設定的預設值是關閉的,因此已不會再提出標籤建議,但仍能手動標註照片中的友人。(https://www.ithome.com.tw/news/132849)


上一篇
第二篇,自己平時是否注意過在實體店使用信用卡的方式?
下一篇
第四篇,AI人臉濫用(二),隱私問題之外,更要關注的是「有影片將不再有真相」
系列文
生活資安五四三!從生活周遭看風險與資訊安全~番外篇19

尚未有邦友留言

立即登入留言