針對 Day 22 XGBoost 在全域損失最小化過程中過度吸附中度風險、導致低度風險預測歸零(Macro F1 跌至 0.248)的現象,導入微軟開發的另一梯度提升巨頭——LightGBM(Light Gradient Boosting Machine)。運用其特有的葉節點導向生長、基於直方圖的特徵分箱(Histogram-based Binning)以及多類別權重平衡參數,探討 LightGBM 能否在極速訓練的同時,修復極端風險等級的召回平衡性。
一、 實作前情境:為什麼在 XGBoost 之後還要嘗試 LightGBM?
在 Day 22 中,XGBoost 拿下了全場最高的 43.00% 總準確率,但混淆矩陣揭示它把低度風險(Low Risk)預測歸零,將大量樣本吸入中度風險。
LightGBM 與 XGBoost 雖然同屬梯度提升家族,但底層架構存在核心差異:
1.生長策略差異(Level-wise vs. Leaf-wise):
2.類別非平衡感知與直方圖加速: