技術問答
技術文章
iT 徵才
Tag
聊天室
2023 鐵人賽
登入/註冊
問答
文章
Tag
邦友
鐵人賽
搜尋
2023 iThome 鐵人賽
DAY
22
0
AI & Data
什麼演算法?一起來學機器學習!
系列 第
22
篇
Day22-LightGBM(Light Gradient Boosting Machine)
15th鐵人賽
機器學習
machine learning
lightgbm
學習筆記
yao021019
團隊
好想放假大學
2023-10-07 08:47:30
173 瀏覽
分享至
利用弱分類器(決策樹)迭代訓練或得強分類器,其具有訓練效果好、不易過擬合等優點。
LightGBM V.S. XGBoost
圖源:
https://reurl.cc/Ryyg9D
XGBoost
XGBoost是基於gradient boosting進行優化,包括加入正規化來防止過擬合等
XGBoost樹以水平方向生長,是一層一層生長
關於XGBoost在幾天前的文章中有寫過筆記
XGBoost的缺點:
需大量記憶體
花費時間較多
LightGBM
LightGBM樹以垂直方向生長(如圖),使用帶有深度限制的按葉子生長(leaf-wise) 的方式
透過GOSS技術,LightGBM能夠在保持較高預測效能的同時,減少記憶體消耗
GOSS的方法: 簡單來說就是保留有最大梯度的資料,並在其他具有小梯度的資料上採用隨機取樣
參考資料
https://chwang12341.medium.com/machine-learning-%E7%B5%A6%E8%87%AA%E5%B7%B1%E7%9A%84%E6%A9%9F%E5%99%A8%E5%AD%B8%E7%BF%92%E7%AD%86%E8%A8%98-kaggle%E7%AB%B6%E8%B3%BD%E5%BF%85%E5%82%99-86305848a0c4
https://zhuanlan.zhihu.com/p/31148458
留言
追蹤
檢舉
上一篇
Day21-主成分分析 (Principal Component Analysis)
下一篇
Day23-Naive Bayes Classifier
系列文
什麼演算法?一起來學機器學習!
共
30
篇
目錄
RSS系列文
訂閱系列文
6
人訂閱
26
# Day26-Single Shot MultiBox Detector (SSD) part1
27
# Day27-Single Shot MultiBox Detector (SSD) part2
28
Day28-Single Shot MultiBox Detector (SSD) part3
29
Day29-混淆矩陣(confusion matrix)
30
Day30-完賽啦!對於這次鐵人賽,我有話要說
完整目錄
直播研討會
{{ item.subject }}
{{ item.channelVendor }}
{{ item.webinarstarted }}
|
{{ formatDate(item.duration) }}
直播中
立即報名
尚未有邦友留言
立即登入留言
iThome鐵人賽
參賽組數
1123
組
團體組數
52
組
累計文章數
23096
篇
完賽人數
656
人
看影片追技術
看更多
{{ item.subject }}
{{ item.channelVendor }}
|
{{ formatDate(item.duration) }}
直播中
熱門tag
看更多
15th鐵人賽
13th鐵人賽
14th鐵人賽
12th鐵人賽
11th鐵人賽
鐵人賽
2019鐵人賽
2018鐵人賽
javascript
2017鐵人賽
python
windows
php
c#
windows server
linux
css
react
程式設計
vue.js
熱門問題
公司有人常常亂改IP位置(想問有甚麼辦法可以將IP鎖住不給更改)
請問我晚上開發一款工具,早上給公司使用,沒特別條款,法律知識產權還是我的嗎?
請教外網如何連到家裡內部裝置
自家官網連線不到 (已解決)
請問公司網路通暢,卻部分固定的使用者無法連到特定網頁 ,求救~~~
請教各位前輩關於 IT 管理者為 User 重設 AD 帳號的密碼的行政流程
自我改善工作人際態度邊界
遠端連線到虛擬機器上,並希望能聽到音效
ISO 27001改版輔導顧問公司推薦
請問有提供對外http連線服務的主機,都需要上SSL嗎?
熱門回答
公司有人常常亂改IP位置(想問有甚麼辦法可以將IP鎖住不給更改)
請問有提供對外http連線服務的主機,都需要上SSL嗎?
請問公司網路通暢,卻部分固定的使用者無法連到特定網頁 ,求救~~~
自家官網連線不到 (已解決)
請教外網如何連到家裡內部裝置
熱門文章
筆電Wifi不見後, 筆電該怎麼上網?
[C#] Remove Element 解法
使用JS解構賦值踩到的雷
幫多階段 Dockerfile 除錯紀錄
Vigor Router Firewall NAT 一開全球通,如何做限制,只允許白名單IP通過,甚至敲門再開 TOTP 驗證
IT邦幫忙
×
標記使用者
輸入對方的帳號或暱稱
Loading
找不到結果。
標記
{{ result.label }}
{{ result.account }}