在上一篇Error Function中,可以看到依照w的不同決定了線的偏差值多寡,
此篇要介紹的是當隨便取了一個值w之後該如何對w進行校正。
圖中是上一篇的Error Function點圖,目標是E(w)要越趨近於0,也就是要求最低點。
所以可以透過微分去看點在線上的斜率來去調整。
η負責調整梯度下降的幅度,避免一次下降/上升太多 也稱為learning rate
當 斜率 > 0 時,會知道點在我們所需的最小偏差值的右邊,因此校正為:
當 斜率 < 0 時,會知道點在我們所需的最小偏差值的左邊,因此校正為:
由上可知公式: