iT邦幫忙

2019 iT 邦幫忙鐵人賽

DAY 17
0

參考網站1
李宏毅教授視頻對Gradient descent也有詳盡解說真心推薦這一系列/images/emoticon/emoticon02.gif
Yes

https://ithelp.ithome.com.tw/upload/images/20181031/20112303EPybPIwfhN.png

看完了李教授大神的視頻後,理解Gradient descent是如何找出W(權重)與bias。基本上就是大學工數所學的將Loss function取導數,也就是對w與b做偏微分之後取得斜率並且沿著這條斜率往下走就是啦,當然找到的可能是local minimum。如果是linear regression會是下面第一張圖不管選擇哪一個初始值最終都會找到global minimum,但是下面第二張圖就看人品決定初始值後,就看掉到哪個洞裡面了,也許只是local minimum...

https://ithelp.ithome.com.tw/upload/images/20181031/20112303jtcl7vgvr8.jpg
https://ithelp.ithome.com.tw/upload/images/20181031/20112303kvi68MILlS.png

最後再重新看一次整個Tensorflow的流程圖,明天就來實際跑個例子/images/emoticon/emoticon31.gif

https://www.tensorflow.org/images/tensors_flowing.gif


上一篇
[第十六天] Tensorflow 結構
下一篇
[第十八天] Tensorflow 練習1
系列文
Machine Learning 學習筆記30

尚未有邦友留言

立即登入留言