iT邦幫忙

2022 iThome 鐵人賽

DAY 9
0
自我挑戰組

AI人工智慧探討系列 第 9

AI再次繁榮1980-1987,反向傳播算法

  • 分享至 

  • xImage
  •  

前言:
昨天的文章介紹了兩派不同思考派系的學者,今天的這篇文章會跟大家介紹在經歷了黃金時期、第一次低谷之後,AI再度受到世界級政府機關重視的時期。


重獲政府撥款
這是影響最重大的一個原因,日本是個AI發展的重點國家,而他們在1982年開啟了一個重大的計畫:第五代電腦計畫,這些劃時代的電腦擁有超級電腦的運算效能和處理人工智慧的能力,也在此時得到了大筆金費,得以發展。目標:

1.能夠與人對話
2.翻譯語言
3.解釋圖像。

連結主義的再度興起
在日本發展第五代電腦的1982年的同時,美國物理學家John Hopfield發明了聯想神經網路,是一種新型的神經網路,這種網路神經採用的是反向傳播算法,此方法採用鏈式法則用網絡每層的權重為變數計算損失函數的梯度。此方法早在1970年代就被提出,但一直直到這個年代才被世人再度想起重視。


反向傳播算法(back propagation algorithm)
反向傳播算法是人工神經網路訓練的本質,他根據前一個timing獲得的錯誤率對資料進行權重微調,如此訓練可以降低錯誤及提高模型的可靠性。

工作原理
通過鍊式法則計算單個權重的損失函數的梯度,但沒有直接的定義要如何使用梯度,與原生直接計算不同,它一次計算一層。

1.輸入 X,通過預連接路徑到達
2.輸入使用實際權重 W 建模。權重通常是隨機選擇的
3.計算從輸入層到隱藏層到輸出層的每個神經元的輸出
4.計算輸出中的誤差
5.從輸出層返回到隱藏層以調整權重以減少誤差

https://ithelp.ithome.com.tw/upload/images/20221002/20152501RKT6HLqveh.jpg


資料來源:
https://www.guru99.com/backpropogation-neural-network.html

https://zh.wikipedia.org/zh-tw/%E7%AC%AC%E4%BA%94%E4%BB%A3%E9%9B%BB%E8%85%A6

https://zh.wikipedia.org/zh-tw/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E5%8F%B2

https://zh.wikipedia.org/zh-tw/%E7%BA%A6%E7%BF%B0%C2%B7%E9%9C%8D%E6%99%AE%E8%8F%B2%E5%B0%94%E5%BE%B7

https://zh.wikipedia.org/zh-tw/%E5%8F%8D%E5%90%91%E4%BC%A0%E6%92%AD%E7%AE%97%E6%B3%95


上一篇
簡約派、蕪雜派
下一篇
80年代的發展&Nouvelle AI
系列文
AI人工智慧探討30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言