iT邦幫忙

2023 iThome 鐵人賽
DAY 12
0
AI & Data

什麼演算法?一起來學機器學習!系列 第 12 篇

Day12-Adaboost

15th鐵人賽 機器學習 machine learning adaboost 學習筆記
201 瀏覽

  • 分享至 

  • xImage
    •  

原理

組合多個弱學習機來構建一個強學習機

  1. 將每個樣本的權重初始化為相等的值
  2. 建構弱分類器
  3. 將誤差大的資料權重加大
  4. 重複２跟３
  5. 加權投票決定結果
    https://ithelp.ithome.com.tw/upload/images/20230927/20163280vzHRsfrrBI.png

建構弱分類器及調整權重

圖片來源: https://www.youtube.com/watch?v=tH9FH1DH5n0&list=PLJV_el3uVTsPy9oCRY30oBPNLCo89yu49&index=33

  1. 一組data初始化權重後訓練弱分類器
    https://ithelp.ithome.com.tw/upload/images/20230927/20163280r7QNoOoKVP.png
  2. 依據上一個分類器的結果，正確分類的資料減少權重，錯誤的增加權重，以此data訓練另一個弱分類器
    https://ithelp.ithome.com.tw/upload/images/20230927/20163280sBnoSHH4Kh.png
  3. 重複2

優缺點

  • 優點:
    • 不易過擬合
    • 可組合多個弱分類器來提高準確率
  • 缺點:
    • 對異常值較敏感
    • 計算成本高

參考資料


上一篇
Day11-集成學習Ensemble Learning(bagging/boosting)
下一篇
Day13-Gradient Boosting
系列文
什麼演算法?一起來學機器學習! 共 30 篇
  1. 26
    # Day26-Single Shot MultiBox Detector (SSD) part1
  2. 27
    # Day27-Single Shot MultiBox Detector (SSD) part2
  3. 28
    Day28-Single Shot MultiBox Detector (SSD) part3
  4. 29
    Day29-混淆矩陣(confusion matrix)
  5. 30
    Day30-完賽啦！對於這次鐵人賽，我有話要說
完整目錄
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言
iThome鐵人賽
參賽組數
1043 組
團體組數
40 組
累計文章數
9395 篇
最後報名日
9/15
iT+看影片追技術 看影片追技術 看更多
熱門tag 看更多
15th鐵人賽 13th鐵人賽 14th鐵人賽 12th鐵人賽 11th鐵人賽 鐵人賽 16th鐵人賽 2019鐵人賽 javascript 2018鐵人賽 python 2017鐵人賽 windows php c# windows server linux css react 資訊安全
熱門問題
熱門回答
熱門文章
IT邦幫忙