參考網站1
李宏毅教授視頻對Gradient descent也有詳盡解說真心推薦這一系列
看完了李教授大神的視頻後，理解Gradient descent是如何找出Ｗ(權重)與bias。基本上就是大學工數所學的將Loss function取導數，也就是對w與b做偏微分之後取得斜率並且沿著這條斜率往下走就是啦，當然找到的可能是local minimum。如果是linear regression會是下面第一張圖不管選擇哪一個初始值最終都會找到global minimum，但是下面第二張圖就看人品決定初始值後，就看掉到哪個洞裡面了，也許只是local minimum...
最後再重新看一次整個Tensorflow的流程圖，明天就來實際跑個例子
iThome鐵人賽
看影片追技術