iT邦幫忙

2019 iT 邦幫忙鐵人賽

DAY 21
0
自我挑戰組

Artificial Intelligence人工智慧系列 第 21

灌輸黑暗素材,麻省理工首創精神變態 AI

  一開始先看到新聞標題時覺得有點駭人,還以為有什麼比較特殊或是不好的用途,但團隊表示說,之所以創造諾曼,是盼以通俗語言,解釋演算法的運作方式,並藉此讓人們意識到 AI 潛在的危險。
  在機器學習中,有個至關重要的一點,就是在教導機器學習演算法的時候,灌輸給機器的資訊會對其行為造成偏差和顯著的影響。AI演算法出現偏差時,主要的問題並不是演算法或系統本身,而是有時候資訊就會帶著偏差的資訊或是一些人類社會中的傳統,以至於AI會造成偏倚。
  亞馬遜的AI系統篩選履歷也有重男輕女的現象,原因就是關鍵字出現在男性履歷上較多的問題,所以有時候出差錯的並不是演算法本身,而是我們人類餵養的資訊造成的,相信這樣的研究和創造,可以更淺顯易懂的讓大眾明白,若是讓AI吸收了不好的資訊,可能對我們造成多大的影響。
參考文章:https://technews.tw/2018/06/12/mit-norman-ai/


上一篇
夏普活用 IoT,推貓廁所進軍寵物市場
下一篇
人類真的可能不朽?
系列文
Artificial Intelligence人工智慧30

尚未有邦友留言

立即登入留言