自動編碼器(AutoEncoder)主要是用來處理沒有標記特徵的資料,因此自動編碼器常被用於深度學習中的非監督式學習及半監督式學習,用來將資料進行降維與資料特徵的擷取.近年來自動編碼器也被廣泛的利用在數據的生成模型,而先進的深度學習網絡中採用了採用堆疊式稀疏自編碼.

自動編碼器

自動編碼器主要由兩個部分所構成:

1. 編碼器(Encoder)-將輸入進行編碼
2. 解碼器(Decoder)-將編碼重構輸入
   

從上圖中我們可以看到一個叫Internal Representation的名詞,它主要的功能是對輸入的資料做壓縮或是加入雜訊到輸入資料,Internal Representation又可以被稱為Bottleneck.

這邊我主要提到三種不同的自動編碼器來做一些介紹:

1. 卷積自動編碼器(CNN AutoEncoder)-主要是使用卷積層去取代自動編碼器中的全連接層.
2. 稀疏自動編碼器(Sparse AutoEncoder)-將自動編碼器加上L1的Regularity限制,使神經網路每一層中的各節點大部分都為0,少數的節點不為0.
3. 降噪自動編碼器(Denoising AutoEncoder)-降噪自動編碼器則是在輸入數據中加入噪音(雜訊)或是直接將損壞數據作為輸入，並學會如何去除噪音從而預測獲得原本的輸入數據.

參考資料:

• https://zh.wikipedia.org/zh-tw/%E8%87%AA%E7%BC%96%E7%A0%81%E5%99%A8
• https://www.cupoy.com/qa/club/ai_tw/0000016D6BA22D97000000016375706F795F72656C656173654B5741535354434C5542/0000017B24E3C15C000000166375706F795F72656C656173655155455354
• https://medium.com/ml-note/autoencoder-%E4%B8%80-%E8%AA%8D%E8%AD%98%E8%88%87%E7%90%86%E8%A7%A3-725854ab25e8