Day3 監督式學習
前言
在昨天我們有提到四個機器學習的類型,今天我會就監督式學習來講解更多跟監督式學習有關的內容。
工作原理
首先我們要先複習一下,監督式學習是一種所有資料都被「標註」(label)的學習方法。每個輸入數據都有對應的輸出標籤,這使得機器能夠根據這些標註進行學習,並在未來進行預測時判斷誤差。
優點與缺點
- 優點:
- 準確性高:有標籤的數據能幫助模型準確學習模式。
- 應用範圍廣:可用於回歸和分類問題,適用於多種場景。(下面會提到)
- 缺點:
- 數據需求大:需要大量標註數據,標註過程通常耗時且費力。
- 過擬合風險:模型可能過度擬合訓練數據,對於未見數據表現不佳。
過擬合 (Overfitting),過擬合是機器學習中的一個常見問題,指的是模型在訓練數據上表現良好,但在未見數據(測試數據)上表現不佳的情況。這通常發生在模型學習到了訓練數據中的噪音或不必要的細節,導致其對特定數據過度適應。
常見的演算法
在監督式學習中可以分成兩大類的演算法,如同上面的優點提到的,第一類是迴歸。
迴歸 (Regression)
迴歸是一種監督學習,其目標是預測連續值或數值。在迴歸任務中,目標標籤是實數,模型學習將輸入特徵映射到連續輸出。迴歸算法廣泛應用於預測股市、房價預測、銷售數據分析等。
- 常見的迴歸算法:
- 簡單線性迴歸:適用於只有一個輸入變量的情況,通過找到一條最佳擬合直線來預測輸出。
- 多元線性迴歸:適用於有多個輸入變量的情況,通過找到一個最佳擬合平面來預測輸出。
- 多項式線性迴歸:處理非線性數據,通過多項式函數來擬合數據。
- 嶺迴歸 (Ridge Regression):解決多重共線性問題,增加懲罰項來約束模型參數。
- Lasso 回歸:類似於嶺迴歸,但使用 L1 正則化,使得一些回歸係數可以變為零,實現特徵選擇。
而第二種則是分類。
分類 (Classification)
分類是一種有監督的學習,其目標是將數據點分配到預定義的類別或類別中。在分類任務中,目標標籤是離散的,代表不同的類或組。分類算法廣泛應用於垃圾郵件檢測、圖像識別、醫療診斷等。
- 常見的分類算法:
- 邏輯回歸 (Logistic Regression):儘管名字中有「回歸」,但實際上是一種用於二元分類的算法,使用 Sigmoid 函數輸出概率值。
- 支持向量機 (SVM, Support Vector Machine):通過尋找最佳的超平面來分割不同類別的數據點。
- 核函數支持向量機 (Kernel SVM):使用核函數將數據映射到高維空間,處理非線性分類問題。
- 樸素貝葉斯 (Naive Bayes):基於貝葉斯定理,假設特徵之間是獨立的,適用於文本分類和垃圾郵件檢測。
- 決策樹 (Decision Tree):通過構建一個樹狀模型來做出分類決策,樹的每個節點代表一個特徵,每個分支代表該特徵的一個值。
- 隨機森林 (Random Forest):集成多個決策樹,通過投票來決定最終的分類結果,減少過擬合問題。
- K 近鄰算法 (K-Nearest Neighbors, KNN):根據數據點在特徵空間中最接近的 K 個鄰居來進行分類。
這些監督學習算法在實際應用中有著廣泛的用途,根據不同的數據和問題選擇合適的算法可以達到最佳的預測效果。
小結
今天稍微說了一些監督式學習的概念,我相信這對於剛接觸的人來說,其實還是蠻抽象的,我明天會以程式的演示來介紹一些算法,讓他以可視化的方式來介紹,並搭配一些比較明確的舉例來介紹,我相信這對於剛接觸的人應該會比較友善一點,明天見囉。