主要的深度學習模式

深度學習的主要神經網路模型:

卷積神經網路CNN

卷積神經網路Convolutional Neural Network，簡稱CNN:一種利用卷積Convolution技術提取影像的特徵與池化Pooling技術壓縮降低特徵維度的一種DL神經網路。

• Yann Lecun 1998年開發7層LeNet所提出的
• 主要組成:輸入層Input Layer、卷積層Convolution Layer、池化層Pooling Layer、全連接層Fully Connected Layer、輸出層Output Layer五轉網路架構
• 背景:因為傳統DL有下列問題，
  ①運算效率問題:一個1000x1000等於100萬像素的照片，如其隱藏層是1000個節點，有10層，則有100一個連結，需要很大的運算力，訓練起來也很耗時。
  ②圖像特徵提取Feature Extraction問題:傳統FC只用一維的像素當作輸入，來單獨處理向速與下一層節點的關係。
  ③影像處理的三大特性問題:

1. 局域性Locality問題(傳統FC很沒有效率架構要計算每個像素與圖像內每個像素的關係)
   2.平移性Translatability問題(特徵值不同以為是不同物件，辨識起來形成很大不便)
   3.縮放性Scaling問題(傳統FC物件等比例放大會影響其內容)

CNN模型特色與優點:

CNN架構特色與運算

1. 濾鏡的利用與訓練

• 濾鏡運用:CNN主要精神是利用二維各種濾鏡去掃描圖像內的物件，去偵測其是否存在某些特定的特徵，不同濾鏡具備不同特徵，特徵吻合度越高，則物件是此類別概率就越高。
• 濾鏡訓練:濾鏡是由機器掃描過數十萬張人臉相片後，其自行經由不斷試探，歸納出能辨識別人臉各種層次不同之濾鏡，經由DL特有BP與GD，幾萬次不斷糾正錯誤，持續調整內部參數，CNN就漸漸能設計出辨識人臉的各種濾鏡。
• 濾鏡運作、卷積演算:卷積演算是兩個矩陣內積和Dot Product，發現與濾鏡有相同特徵區塊時，其卷積輸出的數值會很大，如果沒對應到相同特徵，則相反➜CNN以不同卷積濾鏡(卷積核Convolution Kernal)作為網路核心架構。
• 卷積層Convolution Layer:利用卷積核來擷取特徵的這一層神經網路。

2. 特徵圖

• 特徵圖繪當成下一層輸入，不斷遞迭而上，越來越複雜卷積濾鏡，會來尋找更複雜、高層特徵。

3. 池化層Pooling Layer

• 池化:一種演算法是CNN透過降維Dimension Reduction將卷積後特徵圖進行壓縮，用更抽象特徵來代表原特徵，以此簡化後續運算的複雜度。
• 最大化Max Pooling:擷取原矩陣中最大值來取代原矩陣。
  
  資料來源:https://www.geeksforgeeks.org/cnn-introduction-to-pooling-layer/
• 平均值Average Pooling
  
  資料來源:https://www.geeksforgeeks.org/cnn-introduction-to-pooling-layer/

4. 全連接層Fully Connected Layer

• 經過卷積與池化後，最後為了要進行分類，要將最終特徵圖攤平成傳統一維全連接網路➜全連接層
• 例子:十種物件的分類就會輸出十種不同預測概率

參考來源:人工智慧:概念應用與管理 林東清