Day7 最近鄰居法(K-Nearest Neighbors)

2021 iThome 鐵人賽

DAY 7

AI & Data

我比機器更需要學習系列第 7 篇

13th鐵人賽

Tun

2021-09-13 00:16:09

1907 瀏覽

分享至

最近鄰居法是什麼?

簡稱KNN，講人話就是在現有歷史資料的基礎上，對於想預測的新資料，直接比對特徵最接近的K筆歷史資料，看他們分別屬於哪種分類，再以投票的方式決定新資料的所屬分類。

淺談最近鄰居法

最近鄰居法是監督式學習中的分類演算法，能用一句話代表大概就是物以類聚了吧!舉個例子來說，假設你的鄰居朋友裡面，十個有八個都是單身狗，那你也很有可能也是單身狗，差不多是這個概念，再來說明此演算法的步驟:

(一)計算距離
(二)進行投票
(三)決定類別

計算距離的方式有三種:
(一)歐基里德距離 (Euclidean distance)
$D= \sqrt{(x_1-y_1)^2+(x_2-y_2)^2+......+(x_n-y_n)^2}$
(二)曼哈頓距離 (Manhattan distance)
$D=|x_1-y_1|+|x_2-y_2|+......+|x_n-y_n|$
(三)明氏距離 (Minkowski distance)
$https://chart.googleapis.com/chart?cht=tx&chl=D%3D(%5Csum_%7Bi%3D1%7D%5E%7Bn%7D%7Cx_i-y_i%7C%5Ep)%5E%7B%5Cfrac%7B1%7D%7Bp%7D%7D$
KNN的優點:

1.易理解
2.用途廣

KNN的缺點：

1.計算量大
2.樣本數不平均時，易產生誤差

Day6 梯度提升樹(Gradient Boosting Decision Tree)

Day8 單純貝氏分類器 (Naive Bayes Classifier)

系列文

我比機器更需要學習共 23 篇

RSS系列文訂閱系列文

6 人訂閱

完整目錄

直播研討會

{{ item.channelVendor }} {{ item.webinarstarted }} |

直播中

尚未有邦友留言

立即登入留言

我比機器更需要學習系列 第 7 篇