iT邦幫忙

第 11 屆 iThome 鐵人賽

DAY 8
0
自我挑戰組

AI & Data系列 第 8

AI & Data 第八天 反向傳播算法

昨天寫到了要介紹反向傳播算法,我找了很多資料,大部分都是只介紹如何計算,沒有明確的告訴讀者這是什麼,所以只能參考維基百科再嘗試自己解讀了,以下是他的介紹。

反向傳播(英語:Backpropagation,縮寫為BP)是「誤差反向傳播」的簡稱,是一種與最優化方法(如梯度下降法)結合使用的,用來訓練人工神經網絡的常見方法。該方法對網絡中所有權重計算損失函數的梯度。這個梯度會反饋給最優化方法,用來更新權值以最小化損失函數。

內容節自https://zh.wikipedia.org/wiki/反向传播算法

簡單的看過計算例子後,首先要分成輸入輸出跟隱藏層,所謂的隱藏層就世界在輸入輸出中間,人們看不見的存在,首先把輸入乘以突觸的權重比後相加,得到隱藏層的值後再繼續乘以下一條的權重,如此重複直到到達輸出,然後就會發現跟答案誤差很多,所以要把兩者的差拿去套入鍵式法則後改變權重,不停地重複直到靠近0誤差,反向傳播算法的目標就是找到最能減少誤差的權重,透過這樣來訓練神經網路,讓他們能辦到向人依樣透過數個特徵分辨物體,是一種需要大計算器的訓練方法之一。


上一篇
AI & Data 第七天 連結主義與感知器
下一篇
AI & Data 第九天 siri
系列文
AI & Data30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言