iT邦幫忙

2021 iThome 鐵人賽

DAY 10
0
AI & Data

數據分析方法研究和理解演算法系列 第 10

DAY10支持向量機

昨天,我們已建立完隨機森林回歸分類方法,那今天,我打算來介紹下支持向量機(Support Vector Machines),首先先來圖稍微說明下:
EX: 狗:藍點;貓:紅點;(p.s.不一定是圖片,有可能是貓和狗的資料EX:體重…)當今天資料進來,如果想分辨是貓還是狗,就可以使用支持向量機
https://ithelp.ithome.com.tw/upload/images/20210924/20141654nauep5dnVp.png
藉由不斷修正,來達到最佳分割線
https://ithelp.ithome.com.tw/upload/images/20210924/20141654iNByow3h8u.png
但有時候會出現無法用線性切割的狀況
https://ithelp.ithome.com.tw/upload/images/20210924/20141654U74y3NLA6D.png
這時候就要拓展維度,像這樣
https://ithelp.ithome.com.tw/upload/images/20210924/20141654ywfwu9Io9K.png
而這個是使用到kernel函數,去進行維度擴展,像是
https://ithelp.ithome.com.tw/upload/images/20210924/20141654IPtf5BaWVK.png
(把x,y帶入就會產生z,這樣資料就會有x,y,z就可以找到分割平面)
而所以kernel函數(核函數),實際其實就是一個帶入x,y的函數f(x,y)
其中最常用的就是第三個內核RBF因為他在拓展到高維度會比較易於計算(因為使用泰勒展開式)
所以支持向量機其實也是一個分類方法而常用於支持向量機算法的演算法:SMO
SMO算法的目標是求出一系列系數,一旦求出了這些系數,就很容易依照系數來計算出權重向量w並得到分隔超平面。
(來源:維基百科和https://blog.csdn.net/tiankong_/article/details/80952154
之後演算法也會參考這兩篇)
https://ithelp.ithome.com.tw/upload/images/20210924/20141654AoWSUaDr5J.jpg

好,今天支持向量機概念算是完成了,明天就開始研究支持向量機演算法,主要會以寫出SMO算法為主,並利用二維作為舉例

男孩胸口發出的歌聲,傳到了森林外的小屋,此時男人用紅色的雙手托著下巴,彷彿在打量甚麼,只見他深吸了一口氣,並朝著森林方向大叫了一聲,而遠處的男孩正煩惱著胸口的歌聲該怎麼停下來,突然男孩聽到了男人傳來的大叫聲,而男孩胸口的歌聲,慢慢變小,最後歌聲消失了,當歌聲停下來後,男人露出了一抹微笑,並朝著森林走去
		--|不管你在哪,我會找到你,遊戲開始了|--  CS.MM

上一篇
DAY09隨機森林演算法(回歸方法)
下一篇
DAY11支持向量機演算法
系列文
數據分析方法研究和理解演算法30

尚未有邦友留言

立即登入留言