iT邦幫忙

2019 iT 邦幫忙鐵人賽
DAY 17
0
自我挑戰組

Machine Learning 學習筆記系列 第 17 篇

[第十七天] Gradient descent

2019鐵人賽 tensorflow gradient descent
3307 瀏覽

  • 分享至 

  • xImage
    •  

參考網站1
李宏毅教授視頻對Gradient descent也有詳盡解說真心推薦這一系列/images/emoticon/emoticon02.gif
Yes

https://ithelp.ithome.com.tw/upload/images/20181031/20112303EPybPIwfhN.png

看完了李教授大神的視頻後，理解Gradient descent是如何找出Ｗ(權重)與bias。基本上就是大學工數所學的將Loss function取導數，也就是對w與b做偏微分之後取得斜率並且沿著這條斜率往下走就是啦，當然找到的可能是local minimum。如果是linear regression會是下面第一張圖不管選擇哪一個初始值最終都會找到global minimum，但是下面第二張圖就看人品決定初始值後，就看掉到哪個洞裡面了，也許只是local minimum...

https://ithelp.ithome.com.tw/upload/images/20181031/20112303jtcl7vgvr8.jpg
https://ithelp.ithome.com.tw/upload/images/20181031/20112303kvi68MILlS.png

最後再重新看一次整個Tensorflow的流程圖，明天就來實際跑個例子/images/emoticon/emoticon31.gif

https://www.tensorflow.org/images/tensors_flowing.gif


上一篇
[第十六天] Tensorflow 結構
下一篇
[第十八天] Tensorflow 練習1
系列文
Machine Learning 學習筆記 共 30 篇
  1. 26
    [第26天] 卷積神經網絡　MINST練習
  2. 27
    [第27天] 卷積神經網絡 MNIST練習(2)
  3. 28
    [第28天] 卷積神經網絡 MINST練習(3)
  4. 29
    [第29天]　卷積神經網絡　MNIST練習(4)
  5. 30
    [第30天] Google GPU 申請 與 參賽感想
完整目錄
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言
iThome鐵人賽
參賽組數
1064 組
團體組數
40 組
累計文章數
22043 篇
完賽人數
594 人
iT+看影片追技術 看影片追技術 看更多
熱門tag 看更多
15th鐵人賽 16th鐵人賽 13th鐵人賽 14th鐵人賽 12th鐵人賽 11th鐵人賽 鐵人賽 2019鐵人賽 javascript 2018鐵人賽 python 2017鐵人賽 windows php c# windows server linux css react vue.js
熱門問題
熱門回答
熱門文章
IT邦幫忙