人工神經元 (1943年)
名稱：Warren McCulloch 和 Walter Pitts
數學式：McCulloch-Pitts 模型
描述：McCulloch 和 Pitts 提出了一個簡單的數學模型，用於模擬生物神經元的工作原理，這被視為深度學習的起點。

感知器 (1957年)
名稱：Frank Rosenblatt
數學式：Rosenblatt 的感知器學習規則
描述：Rosenblatt 開發了感知器，這是一種簡單的神經網路架構，能夠執行二元分類任務。然而，它有限的能力導致了深度學習的第一次寒冬。

反向傳播算法 (1986年)
名稱：David Rumelhart、Geoffrey Hinton 和 Ronald Williams
數學式：梯度下降、反向傳播等
描述：反向傳播算法是深度學習的重大突破，它允許多層的神經網路進行有效的訓練，通過調整權重來最小化誤差。這是現代深度學習的基礎。

長短時記憶 (LSTM) 神經網路 (1997年)
名稱：Sepp Hochreiter 和 Jürgen Schmidhuber
數學式：LSTM 的復雜公式
描述：LSTM 是一種遞歸神經網路 (RNN) 的變種，它解決了傳統 RNN 的長期相依性問題，並在自然語言處理等領域取得了重大突破。

卷積神經網路 (CNN) (1998年)
名稱：Yann LeCun、Léon Bottou、Patrick Haffner、et al.
數學式：卷積和池化操作等
描述：CNN 是一種專門用於圖像處理的神經網路架構，它在計算機視覺領域中引領了深度學習的發展，並取得了重大的成就。