Stacking 中文稱為堆疊法,首先產生出 m 個 base learners(模型)彼此間並互相無關連,例如第一個 learner 為 KNN 第二個為決策樹。訓練完 m 個模型後,我們要把這m個模型合併在一起。合併的方式是我們另外再訓練一個模型,這個模型把 m 個 base learner 的輸出當成新的模型的輸入因此我們會根據這 m 個特徵利用集成式學習其中的演算法來學習一個模型並預測最終結果。最後的 Ensemble model 可以使用線性回歸或是深度神經網路來做學習。總之 Ensemble model 的目的是把每一個 base learners 的輸出當成線索,並把這些線索想辦法做整合來得到最終的答案。另外在進行 Stacking 的時候要注意的是在訓練 m 個 base learners 的訓練資料和訓練 Ensemble model 的資料兩者的訓練資料要不同。
本系列教學簡報 PDF & Code 都可以從我的 GitHub 取得!
文章同時發表於: https://andy6804tw.github.io/crazyai-ml/16.Stacking
如果你對機器學習和人工智慧(AI)技術感興趣,歡迎參考我的線上免費電子書《經典機器學習》。這本書涵蓋了許多實用的機器學習方法和技術,適合任何對這個領域有興趣的讀者。點擊下方連結即可獲取最新內容,讓我們一起深入了解AI的世界!
👉 全民瘋AI系列 [經典機器學習] 線上免費電子書
👉 其它全民瘋AI系列 這是一個入口,匯集了許多不同主題的AI免費電子書