過擬合(Overfitting)
指在機器學習和深度學習中,模型在訓練數據上表現得很好,但在未見過的測試數據上表現不佳的現象,通常是模型的複雜性過高或者訓練數據不足導致的問題。若要解決過擬合問題,可以考慮以下方法:
超參數
超參數是資料科學家用來管理機器學習模型訓練的外部組態變數,包含了神經網路中的節點和層數量以及決策樹中的分支數量,調整超參數,如隱藏層的數量、每個隱藏層的神經元數量和學習率等,對模型性能至關重要。
激勵函數(Activation Function)
激活函數是神經網絡中的一個重要的組成,它用於神經元中引入非線性性質,使神經網絡可以學習複雜的模式和表示。
常見的激勵函數如下:
1.Sigmoid 函數(Sigmoid Function):範圍在 0 到 1 之間。
2.ReLU 函數(Rectified Linear Unit):負數輸入設為零,而正數輸入則保持不變。
3.Tanh 函數(Hyperbolic Tangent):範圍在 -1 到 1 之間。
---20230930---