iT邦幫忙

2021 iThome 鐵人賽

DAY 11
0
AI & Data

Deep Learning 從零開始到放棄的 30 天 PyTorch 數字辨識模型系列 第 11

Day-10 深度學習的介紹

  • 到了第十天,我們總算是要來好好聊聊到底什麼是深度學習了,應該有人已經在想說前面到底在幹嘛,為啥不直接來解釋深度學習是什麼就好,沒關係,請先按難一下性子,我們馬上就來聊聊深度學習,而在這個過程中,應該也會有助於幫忙理解為什麼前面要花時間解釋了

深度學習的發展

  • 深度學習的發展歷史這邊就不特別贅述了,我們純說明為何深度學習會在近年來被快速的推存
  • 深度學習的崛起最直接的關係在於硬體設備的進步,深度學習的運算其實非常非常的繁重,這在之後介紹資料更新時會有解釋,那大量數學運算+非常龐大的神經元結構的前後傳遞,是非常消耗運算能力的,因此深度學習的概念能夠快速被推廣進化,真的是因為近年來設備的大幅度進步,GPU 運算的導入等等,才有了這樣的成長

深度學習是什麼

  • 深度學習其實就是機器學習的一種方式,我們前面提到機器學習的流程中,改變的部分其實只有將 Model 那邊變成 Neural Network

  • 什麼是 Neural Network(神經網路),就是模仿人體神經元的概念,來模仿人類思考更新資料的方式的一種概念

AN(Artificial Neuron)

  • 我們先來看看一般的神經元跟類神經網路的結構狀況
  • Biological Neuron
  • Artificial Neuron
  • 我們可以發現在圖片對照上
    • Dendrites(樹突) = Input Signals( https://chart.googleapis.com/chart?cht=tx&chl=%24x_i%24
    • Synapses(突觸) = Weights( https://chart.googleapis.com/chart?cht=tx&chl=%24w_i%24
    • Cell Body(細胞體) = Cell Body( https://chart.googleapis.com/chart?cht=tx&chl=%24n%2C%20f(n)%24
    • Axon(軸突) = Output Signal( https://chart.googleapis.com/chart?cht=tx&chl=%24a%24
  • 我們來理解一下到底是什麼意思,我們回到我們的機器學習概念,我們希望機器幫我們由資料判斷一個答案,但是這些資料,也就是對這個答案判斷"特徵"一定有好有壞,例如說之前提過的貓咪判斷,我們對於貓咪這個生物有沒有毛,一定不是唯一的判斷標準,但是也會出現在決策的因素裡面,那這邊我們會有很多很多的輸入,就是跟上面提到的 Input Signals 一樣,會有很多個,而這些輸入,有好有壞,因此 weights 這東西就是調控這些資料輸入時的"份量",Cell body 基於這些 input 的運算了,而後,依照目標,輸出答案

深度學習跟神經元的關係

  • 深度學習就是一個大量人工神經網路合併的過程,利用模仿大腦神經元的結構,層層傳遞,達到運算等等的效果
  • 深度學習的深度一詞,就是在說整體神經網路結構到底有多複雜,整個神經元的層數有多

神經元家族

  • 上圖的詳細初始來源我已經不確定了,但是這張圖完美的呈現了各種神經網路的結構
  • 從上圖我們可以發現一件事情,就是每個神經元(就是圖片中的球球)他們都會與下一層的所有神經元座連接,並且一層一層的往下傳遞,因此我們才會用 Layer 的層數來說明這個神經網路有多複雜
  • 那這邊有幾個小觀念要順便釐清
    • input layer 不會被算在神經元深度內
    • 除了 input layer 跟 output layer 以外的 layer 我們通稱 hidden layer
    • 當我們定義一個 Network structure,就等於定義了一個 function set

每日小結

  • 深度學習就是機器學習的一種利用神經網路概念,建構出的許多層神經網路來做特徵學習的方式,並在最後輸出
  • 深度學習的大概念仍然脫離不了機器學習的範疇,甚至我們前面提過的 logistic regression 也可以直接當作其中一個神經元做運算,因此才需要在前面大量建構機器學習的基礎知識
  • 深度學習最重要的概念就是神經元之間的傳遞,而且傳遞過程中的結果和資料如何去做更新,就會是一大重點,因此明天我們來聊聊深度學習中非常重要的觀念,Backpropagation(反向傳遞)

上一篇
Day-09 Logistic Regression 實作
下一篇
Day-11 Backpropagation 介紹
系列文
Deep Learning 從零開始到放棄的 30 天 PyTorch 數字辨識模型31

尚未有邦友留言

立即登入留言