今天想來談談 AI 快速發展的現在,對社會造成了什麼影響。
當我們想向銀行借款,審核員對我們有職業或種族上的歧視拒絕申請,又或者我們去應聘工作時,因為性別偏見遭受不同的評分標準。像這些問題本來可以期待透過沒有自我意識的 AI 來審核資格避免偏見或歧視,但是如果 AI 也把人類的壞習慣也學習起來了呢?
之前提到詞嵌入的時候,根據向量計算可以得到
國王 - 男人 + 女人 = 王后
的結論,看起來很合理對吧。讓我們來看看另外一個例子:
醫生 - 男人 + 女人 = ?
得出來的結果是護士,嗯...是不是有點刻板印象了呢?不帶偏見的答案應該是女醫生,類似的例子還有男性是工程師,女性預測出來不是女工程師而是家庭主婦。正如最近看的一部美劇,一間美國大型律師事務所的客人來到會客室,他看見一個高大金髮的白人男性和一個瘦小的亞洲女性,你覺得他會認為哪位是律師?哪位是助理呢?AI 也透過資料中的刻板印象學習到了偏見。
去除性別偏見的詞嵌入演算法可以看最後面的參考資料。
2018年 Amazon 廢棄了他們祕密的 AI 招聘審核工具,理由是因為該工具對女性有偏見進而拒絕女性的求職,兩所女子學校的畢業履歷甚至會被往下調降評分等級。這是由於 AI 基於過去10年的申請履歷來做訓練,其中男性資料佔了大多數,反映了科技產業大多是男性佔據主導地位。
ーー 科技產業男女占比,出處
而使用男性頭像做圖像生成(GAN)時,生成的男性上半身多穿著代表職業的衣服如西裝,醫師白袍,女性則穿著較為裸露。白人的生成圖像多和辦公室,商務相關,而黑人則多和武器連結在一起。
ーー 使用男性頭像生成男性上半身,多為職業衣裝。出處:論文
黑人除了和武器連結在一起的刻板印象之外,Day 25 也介紹過 Google photo 把黑人分類成大猩猩的案例。除此之外,2020 年,一個將自拍相片轉換成文藝復興時期畫作的圖像 App「AI Gahaku」,將所有有色人種都轉換成白人的畫像。雖然這是因為文藝復興時期的人物畫像都是白人,但很明顯這也是資料偏差所導致的歧視。
ーー 圖片出處
其他還有通過200萬份的調查,使用 AI 的貸款資格審查,芝加哥拒絕黑人申請貸款的可能性比同樣財務狀況的白人高 150%。而在德克薩斯州,銀行拒絕拉丁裔人申請貸款的可能性比白人高 200% 以上。
上述都是資料造成的偏見,反過來說透過推薦系統,會一直推薦我們所喜歡的東西,造成所謂的過濾氣泡(Filter bubble)。我們就像被一個氣泡包覆著一樣,只會看到我們喜歡以及符合我們觀點的情報,例如網路新聞只會看到喜好政黨的正面消息,而不會看到該政黨的負面消息(因為我們不喜歡),也就是常說的同溫層,會加深我們的認知偏差(因為新聞都這麼說),從而導致思考變得單一。
讓我們看看其他 AI 造成的問題。以往有圖有真相已經變成過去式, GAN 等生成模型的出現,變成眼見未必為真的時代。
下圖哪個是真的圖片呢?
ーー 出處:BIG GANs 論文
答案:全都不是真的!
四張全都是透過生成模型所製造出來的圖片。
你有想過歐巴馬會公然咒罵川普嗎? 讓我們看看下面幾乎以假亂真的合成影片。
ーー 前前任總統歐巴馬咒罵前任總統川普的合成影片
去年台灣網紅小玉使用換臉AI(Deepfake)將一些知名人物的臉移植到 A 片上的新聞還記憶猶新,法務部為此而火速提案修法。
ーー 出處:聯合新聞網
比較有名的應該是 2019年12月31日,日本跨年的紅白歌唱大賽,過世30年的知名日本歌手美空雲雀,以 「AI 美空雲雀」的姿態起死回生,並用美空雲雀的聲音合成了一首新曲,不但唱歌,中間還穿插口白。
ーー 出處:石川カオリ的日本時事まとめ翻譯
類似的例子還有使用 AI 學習已故日本漫畫家手塚治虫的畫風,生成出來的手塚治虫的新作。
ーー 手塚治虫還在世的話可能會畫出的新作:「ぱいどん」
你可能有聽說過認知作戰這個名詞,各國不論是執政黨或在野黨為了取得民眾的支持,使用似是而非的消息來誤導民眾的看法,同時網路上透過 AI 製造的假消息越來越多,到底該相信誰?現在使用 AI 分析輿論和大眾的情緒已經不是什麼稀奇的事情,而利用這樣的分析,更加速了以往人為擴散的網路謠言,也就是先拔草測風向(確認大眾偏好),再往風大的地方潑髒油讓火勢燒得更旺(散播可信度高的謠言)。
之前有一本熱門推薦的書叫做「炒作機器:社交媒體如何擾亂我們的選舉,經濟和健康」,根據作者的觀點,現今世界的媒體炒作透過三個技術:
手機
散播媒介,人手一機不離身的永遠在線接受訊息。
網路社交媒體 + AI
透過網路社交媒體,AI 可以整理群眾的意見,看法。
炒作循環
AI 透過觀察知道我們買什麼和誰是我們的朋友,再做出朋友推薦(FB的你可能認識的人)和廣告營銷(你可能會買的東西),而我們被這些行為影響以後,AI 又更容易做精細的推薦。
假新聞就是這樣在同質性高的團體中流竄,是不是總是會有志同道合的人在封閉的群組內部講一些彼此認同的言論,和剛剛說的過濾氣泡有點類似。
ーー 炒作機器的循環,出處
今天我們看到了 AI 也有偏見和歧視,因此我們開發 AI 時要小心避開這些偏見,而雖然造假的情報攻擊層出不窮,不過如同垃圾郵件與反垃圾郵件,詐騙與反詐騙,針對 AI 造假的言論予以刪除的技術也同時地發展中,那麼在這樣的時代中,我們該如何與 AI 共處呢?
實際上依照統計資料,儘管有一些重複性質高的工作確實慢慢地被 AI 取代,但是 AI 創造的工作機會可能更多,而且 AI 能取代的大多是容易自動化的一些任務,和人相關的職業則很難被 AI 取代,例如具有關懷與同理心的心理治療師,能激勵人心的企業領導者等等。下圖很好地說明了 AI 與 人 之間的關係,人完善機器,而機器幫助人類提高生產力,賦予人類超能力。也就是 人 + AI 的互助關係。
適合人類的行為
領導,同理心,創造,針對模擬兩可的判斷。
適合機器的行為
處理反覆的任務及預測等。
人類完善機器
機器給予人類超能力,提高生產力
像是非監督式的聚類。
ーー Human + Machine: Reimagining Work in the Age of AI,圖片出處:Human + Machine
朋友問了我一個問題:怎樣才不會被 AI 取代?
我吐槽地說:那你就不要和 AI 一樣。
也就是不要和 AI 做相同的事。重複性高的事務交給 AI,思考和溝通交給我們。
Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings
Image Representations Learned With Unsupervised
Pre-Training Contain Human-like Biases
The Hype Machine: How Social Media Disrupts Our Elections, Our Economy, and Our Health