Day8-SGDregressor (Stochastic Gradient Descent Regressor) - iT 邦幫忙::一起幫忙解決難題，拯救 IT 人的一天

2023 iThome 鐵人賽

DAY 8

0

AI & Data

什麼演算法?一起來學機器學習!系列第 8 篇

Day8-SGDregressor (Stochastic Gradient Descent Regressor)

15th鐵人賽機器學習 machine learning 學習筆記

團隊好想放假大學

2023-09-23 09:15:37

259 瀏覽

分享至

前幾天的迴歸模型中，我們希望找到一個函數能最好的表達因變數與自變數之間的關係，而尋找這個函數的方法就是定義損失函數(loss function)或稱成本函數(cost function)

損失函數/成本函數

基本上就是用來計算預測結果與實際結果的誤差，後尋找誤差最小的函數
在迴歸問題中，均方差是很常見的損失函數 (c是常數)

它計算的是預測值和實際值之間的誤差的平方平均值

隨機梯度下降

一種用來找一組能使損失函數最小的參數的優化算法
從一個隨機的點開始，計算損失函數在當前點的梯度，沿著梯度的反方向更新參數
根據上述模式進行迭代計算

SGDregressor

建構回歸模型，代入損失函數
對模型進行隨機梯度下降（不斷調整參數），使誤差最小（損失函數值最小）

速度可以透過調整learning rate決定
每一筆資料更新一次參數

參考資料

Day7-邏輯回歸 (Logistic Regression)

Day9-決策樹 (Decision Trees)

系列文

什麼演算法?一起來學機器學習! 共 30 篇

目錄

RSS系列文訂閱系列文

6 人訂閱

完整目錄

直播研討會

{{ item.subject }}

{{ item.channelVendor }} {{ item.webinarstarted }} |

{{ formatDate(item.duration) }}

直播中

尚未有邦友留言

立即登入留言

參賽組數

1064 組

團體組數

40 組

累計文章數

22195 篇

完賽人數

600 人

15th鐵人賽 16th鐵人賽 13th鐵人賽 14th鐵人賽 12th鐵人賽 11th鐵人賽鐵人賽 2019鐵人賽 javascript 2018鐵人賽 python 2017鐵人賽 windows php c# windows server linux css react vue.js

IT邦幫忙