LeNet
LeNet-5為LeCun大神在1998年所提出的卷積神經網絡算法。
卷積類神經網路
1.使用卷積核在輸入圖像上滑動，局部的輸入圖像上運算出特徵圖。
2.每層特徵徒都是使用特徵圖卷積核計算，在同樣的特徵圖中共享了相同的權重和Bias。

架構
LenNet-5共有7層
有兩層卷積層(Convolution Layer)、兩層池化層(Pooling Layer)、三個全連接層(Fully Connected Layer)。

卷積層--使用的卷積核為5x5的大小，stride為1，每個特徵圖使用相同的卷積核。
池化層--上一層的4個節點作為下一層1個節點的輸入，將上一層的4個節點求和後取平均。

Alexnet
Alexnet為Alex Krizhevsky與Ilya Sutskever共同發表，在ImageNet大規模視覺辨識挑戰賽中錯誤率低，使得卷積神經網路的興起。

架構
AlexNet共有8層
有五層卷積層(Convolution Layer)、三個全連接層(Fully Connected Layer)。

用較深的模型架構，輸入層尺寸變大(影像大小為224x224 彩色照片)、激活函數則使用ReLU避免因為神經網路層數過深或是梯度過小，而導致梯度消失的問題。