哈囉大家好~~~
最後一天我們要來談談機器學習模型的是超參數調整,參數是指在我們模型訓練期間會發生變化的實際變量,例如我們的權重w和偏誤b,這兩個參數會隨著梯度下降的過程發生變化,最後找到最佳的w和b,但是我們出來的結果通常不大可能第一次就達到完美,我們會透過我們每次設定的超參數,去優化我們的模型。
超參數會在我們每次訓練之前設置,包括上一篇提到的學習率、正則化、同樣上一篇提到的批次大小以及神經網絡的隱藏層數量和每層神經元的數量,我們通常最先做修改的超參數是學習率,通常較低的學習率,ML模型無法表現的最好,但是太高的學習率,雖然一開始會改進的較快,但可能會在後來迷失方向,調整超參數會是一個反覆的工作,通常只會一次調整一個,我們先觀察我們的結果後,再決定我們要調整哪一個參數,然後再次觀察我們的結果,直到我們我們得到一個更好的模型。
結束30天挑戰~我們有緣再相見~~~~