iT邦幫忙

第 11 屆 iT 邦幫忙鐵人賽

DAY 4
1
Security

生活資安五四三!從生活周遭看風險與資訊安全~番外篇系列 第 4

第四篇,AI人臉濫用(二),隱私問題之外,更要關注的是「有影片將不再有真相」

過去,大家可能常說有圖有真相,就是圖片比文字更具說服力,不過隨著繪圖軟體與越來越多人P圖功力進步,多年來大家多少也知道有P圖的狀況。而影片又比圖片更具說服力,主要也是不容易造假,通常也要電影製作水準。

但是,隨著AI人臉技術的進步,使得換臉門檻降低,有影片會不會也將不再是有真相呢?

要知道,一直以來,其實任何科技的發展,都對人類有正面與負面的影響,帶來新的便利的同時,也帶來了新的衝擊,並不只有AI人臉技術。

以這次所談的AI人臉而言,最印象深刻的是,記得去年看到財經媒體Bloomberg在2018年9月發布的一段影片。在這段影片的一開始,是在說2018年4月的另一段影片,有國外網路媒體Buzzfeed製作了AI假影片,目的是希望大家能多注意網路上的消息來源,更加謹慎判斷,未來將不能再一昧地相信眼中所見。

https://ithelp.ithome.com.tw/upload/images/20190906/20013608m7EHurBr16.jpg畫面擷取自Bloomberg的YouTuber

而製作的這個內容也很特別,是美國前總統歐巴馬對著鏡頭說話,其中有一句是川普總統完全就是個笨蛋!(原文是President Trump is a total and complete dipshit.)。

若去看這部影片的片頭,其實有提到一件事,已經提醒

We’re entering an era in which our enemies can make it look like anyone is saying anything at any point in time — even if they would never say those things。

簡單來說,他們利用Deepfakes人臉交換的技術與視覺特效軟體,將歐巴馬與美國知名演員喬登・皮爾的影像結合,產生與歐巴馬再外型、聲音都一致的影像,看起來就像是這些話出自歐巴馬之口。

根據科學Online高瞻自然科學教學資源平臺,網站上轉載科學人的文章。

在假新聞肆虐的這個年代,這段影片是BuzzFeed新聞所製作的公共服務宣導,展示了應用人工智慧(artificial intelligence, AI)新技術的應用程式,它修改影音的方式就像Photoshop處理數位影像一樣:可讓人們篡改事實。
影片還相當粗略。仔細觀看並聆聽,會發現歐巴馬的聲音帶有鼻音,他的嘴(融合了皮爾的嘴)在幾個短暫片刻會偏離中心晃動。但是這項技術(為了好萊塢電影剪輯師和電玩廠商所設計)快速進展,已讓一些國家安全專家和媒體專家想到科技黑暗面。這些工具或許有一天能憑空創造出令人信服的假影片──並非像歐巴馬的談話那般修改自既有的影片,而是精心安排且從未發生過的情節。

其實大家可以想一想,這種換臉可以如何被濫用?

如果是現在國際或國內政治人物的說話被竄改,然後短短的影片被放在Youtube或Facebook上流傳,或是再LINE群組流傳。

更關鍵的是,在資訊爆炸下的資訊不對稱時代(有機會再解釋,個人是很喜歡資訊不對稱的概念,以前是資訊量少,但我覺得資訊量多應該也能造成),很多人只看個標題,又有影片,或是看個幾秒,很容易就會信以為真,因為大家可能還停留在有影片有真相的時代。

剩下就是一如以往的各式操作出現,我是覺得,在資訊爆炸時代大家不會看那麼多,以心理學行銷學 的角度來看,只要標題、幾秒影片去洗,這概念就如同威爾史密斯主演的《決勝焦點》,一直給你心理暗示 ,或是用反面手法讓你對事件主角產生厭惡。有興趣的可以看看這部電影。

而過多的亂象,將會讓民眾降低追尋真相的意願。因為,即便自己眼中所到的影音,也未必是真相。

接著提到Zao,前一篇提到,對於電影產業而言,能夠簡化一些作業,像是有人被封殺就換能快速套另一個人臉,裝扮不同角色也能利用這樣技術快速化妝。
顯然這種技術門檻已經降低,一個App就能快速產生,是很有趣,像是App中可將電影的主角,輕易換成自己的臉,帶來娛樂。那還可以怎麼用?將Youtuber的影片很輕鬆的換成自己的臉、朋友的臉,假裝自己的創作?還是可以輕易的將A片換成朋友的臉來惡搞?

雖然不至於像前面說的可以竄改內容,這個App只是單純換臉,但也有濫用的可能性。

事實上,科技發展是無法阻擋的,如何因應是整體社會都要面對的。禁止?這項技術一定還會有其他出路,如同黑市一樣,(二元論很重要,有黑有白,有正有反,有陰有陽。)

今日剛好也看到國際上的科技公司,也有在設法解決此頭痛的問題,並發出尋賞。

AI造假影片為害日益氾濫,微軟和臉書共同發起名為Deepfake Detection Challenge大賽,以總獎金上千萬美元鼓勵辨識Deepfake影片的技術開發。
愈來愈多極端人士製作Deepfake影片來製造假新聞、煽動群眾或激化衝突。另一方面,這類技術快速演進,使偵測愈形困難。現在沒有一家公司能單憑一己之力解決這些問題,Deepfake Detection Challenge即希望邀集各方好手打造能供大家辨識造假影片的技術,主辦者包括臉書、微軟、康乃爾、牛津、馬里蘭、加州大學柏克萊分校、紐約市立大學阿巴尼分校、麻省理工學院、及社區大學(College Park)市。這項大賽預計從2019年10月舉行到2020年3月。臉書會和外部廠商合作以AI技術將一些真實影片加工製作出一批Deepfake影片,供參賽AI模型偵測。
https://ithelp.ithome.com.tw/upload/images/20190909/20013608o8bsD95Ijv.jpg


10月10日補充

對於這篇我想談的內容,很高興網路上有也有看到網紅(也是議員),對於這樣的議題有很好的解說,大家也可以直接看看這部影片。連結如下:https://www.facebook.com/froggychiu/videos/2338819112882625/

https://ithelp.ithome.com.tw/upload/images/20191010/200136081Vk49UXJDZ.jpg
(擷取自呱吉臉書)

P.S
當然,現在這個社會階段,其實還有另一個現象,但這也發生在某種屏蔽式資訊不對稱,那就是--許多人其實只想看自己想看到的 ,因此,對於非自身所贊同的,即便是事實影片也會說是假新聞。

當然,我覺得這也跟現在FB演算法,新聞台壟斷,LINE聊天群組,所造成的同溫層有些關係。


上一篇
第三篇,AI人臉濫用(一),Zao、FaceApp的隱私問題與App安全
下一篇
第五篇,AI語音加持下的電話詐騙!未來需要更加注意
系列文
生活資安五四三!從生活周遭看風險與資訊安全~番外篇30

尚未有邦友留言

立即登入留言