iT邦幫忙

2024 iThome 鐵人賽

DAY 18
0
AI/ ML & Data

征服機器學習的終極秘技系列 第 18

Day 18 - 模型預測:從模型到實際應用

  • 分享至 

  • xImage
  •  

🌟簡介

在經歷了前面的模型建立、訓練、評估與優化過程後,我們最終得到了滿意的模型。這些步驟的最終目的是希望模型能夠在真實世界中產生準確且有價值的預測結果。本章將介紹如何在部署給使用者前運用測試集進行預測測試,並分析如何通過檢查模型在測試集上的表現來分辨過擬合(overfitting)和欠擬合(underfitting)問題。

https://ithelp.ithome.com.tw/upload/images/20240919/20168116C0PlntfSZ2.jpg
[Dall-E]

🧪使用測試集進行預測測試

之前提過,我們會把數據分為訓練集、驗證集和測試集。訓練集用於訓練模型驗證集用來調整模型參數,而測試集則保留到最終階段,專門用於檢驗模型的實際預測能力

為什麼我們要使用測試集來進行預測測試呢?因為測試集是模型在訓練和調參過程中從未見過的數據。它可以有效地模擬模型在真實環境中的表現。當我們隨時拿到新數據並輸入到模型中,得到的預測結果即為模型的最終輸出,提供給用戶

🏡預測的實際應用

在實際預測中,我們只需要輸入特徵,就可以得到輸出結果。舉個例子,假設我們使用一個訓練好的模型來預測房地產價格,我們會將測試集中的房屋特徵(如面積、地段、房齡等)輸入給模型,模型會根據這些特徵預測房屋的價格。這些預測結果將直接影響房地產投資決策,因此它們必須既準確又具有解釋性。除了預測價格,我們還可以提供模型對預測結果的解釋,如哪些特徵對預測結果影響最大,以幫助使用者更好地理解模型的預測並提高對模型的信任

🔄過擬合與欠擬合複習

在模型預測過程中,我們需要特別注意檢查模型是否存在過擬合欠擬合的問題,這直接影響模型在未見數據上的表現。我們再複習一下這兩者的解釋吧!

  • 過擬合(Overfitting):模型在訓練集上表現非常好,但在測試集上表現不佳的情況。這通常是因為模型過於複雜,過度學習了訓練數據中的細節與噪聲,從而失去了在新數據上的泛化能力。
  • 欠擬合(Underfitting):模型過於簡單,無法有效學習數據中的模式,導致在訓練集和測試集上都表現不佳

🧐如何檢查過擬合?

  • 訓練集與測試集性能對比:如果模型在訓練集上的準確性顯著高於測試集,這是一個強烈的過擬合信號。例如,如果模型在訓練集上準確率達到 95%,但在測試集上卻只有 70%,那麼模型很可能存在過擬合。
  • 學習曲線:繪製訓練集與測試集上的學習曲線,觀察模型性能隨著訓練次數的變化。如果訓練集的性能隨著訓練次數的增加而持續上升,但測試集的性能在達到某一點後開始下降,這也表明模型存在過擬合。
    https://tse4.mm.bing.net/th?id=OIP.Q_5rnALy5WAOghPsr16ozQHaEO&pid=Api&P=0&h=180
    Source

⚠️如何檢查欠擬合?

  • 低準確性:模型在訓練集和測試集上的準確性都很低。例如,如果模型在訓練集和測試集上的準確性分別為 50% 和 45%,這可能表明模型過於簡單,無法有效學習數據中的模式。
  • 模型預測過於簡單:如果模型的預測結果總是趨於某一個平均值或固定的模式,這也可能是欠擬合的信號。例如,在預測房價時,模型總是給出類似的價格,而忽略了房屋特徵的影響。

🔧如何調整模型以應對過擬合與欠擬合

  • 過擬合:可以通過簡化模型結構(如減少層數或神經元數量),使用正則化技術(如L1或L2正則化)來減少模型的複雜度。另外,也可以增加訓練數據量,讓模型學習到更多的泛化能力。
  • 欠擬合:可以通過增加模型的複雜度(如增加特徵數量或使用更複雜的模型),或者增加訓練次數來解決欠擬合問題。

結論

模型預測是機器學習應用中的目的地,它將我們訓練好的模型與實際應用場景連接起來。通過使用測試集來進行預測測試,我們可以有效評估模型的泛化能力,並檢查模型是否存在過擬合或欠擬合的問題。最終,確保模型在實際應用中能夠產生準確、穩定且具有解釋性的預測結果。

https://ithelp.ithome.com.tw/upload/images/20240919/20168116Fs9PwXLIYo.jpg
[Dall-E]


上一篇
Day 17 - 提升模型性能:模型優化
下一篇
Day 19 - 模型部署:將模型推向生產環境
系列文
征服機器學習的終極秘技30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言