多層感知機的基礎引入一到多個隱藏層。一個多層感知器包含三種不同功能的節點,輸入層、隱藏層、輸出層。
相鄰兩層間任意兩個節點間都有連接。由於每個節點間互相連接,每條連接線上都有一個權重值要計算,因此占用更多記憶體和很大的計算量。
以張量實現全連接層需要定義好權值張量W和偏移張量b,利用tf.matmul()即可完成。
有三個樣本,每個樣本是28X28的圖形,因此每個樣本的輸入特徵長28x28=784,且輸出的節點數為10,因此輸入矩陣的大小為[3,784],權重矩陣大小為[784,10],偏移值大小為[10],輸出大小為[3,10]。