首先除了安裝Sklearn外需要先安裝XGBoost import xgboost as xgb XGBoost(eXtreme Gradient Boosti...
集成學習是真正落地專案必須要有的觀念~ 白話來說集成也就是組合多個弱學習器(弱分類器)以構建一個強學習器從而提升模型的性能~~~重要重要重要 Boostin...
模型調優最佳幫手演算法~~ 白話來說可以幫助找到模型的最佳超參數組合~~ 隨機搜索(Random Search):隨機搜索是一種簡單但高效的超參數調優方法,...
再一個集成學習方法~~ 白話來說通過叠代地訓練決策樹每一棵樹都試圖糾正前一棵樹的預測錯誤從而逐步提升模型的性能 基本原理:初始化模型:使用一個簡單的模型(比如...
通過貝葉斯推斷來尋找最優的超參數組合以最大化或最小化目標函數 貝葉斯推斷:利用貝葉斯定理來建模超參數與目標函數之間的關系,從而通過已知的數據點預測出未知的目...
通過結合多個模型的預測結果提升整體性能 白話說就是將多個獨立訓練的機器學習模型整合在一起以提升整體性能的技術可以降低過擬合風險,提高泛化能力,從而在許多情況下提...
通過 HyperOpt 對一個簡單的分類模型(比如邏輯回歸)進行超參數優化~ import numpy as np from hyperopt import f...
Optuna 對一個簡單的分類模型(比如邏輯回歸)進行超參數優化~ pip install optuna import optuna import numpy...
用於解決超參數優化問題的工具~ HyperOpt 使用了不同的優化算法,包括隨機搜索、TPE(Tree-structured Parzen Estimator...
基於 GPy(高斯過程庫)的優化方法~ 適用於黑盒函數優化問題,特別是在高維和噪聲環境下 pip install gpyopt import GPyOpt f...