這系列文章來自對一個知名面試題目的有感而發：「從瀏覽器網址列輸入網址、按下 Enter 後會發生什麼事？」

想想現今使用習慣已經典範轉移，一天在瀏覽器輸入網址的次數少於在 ChatGPT 裡輸入的次數，雖然還沒有在面試中遇過，但想必有一天問題會變成「從 LLM 輸入問題後、按下 Enter 後會發生什麼事？」吧？

既然有了問題的起心動念，仔細想想自己也確實不知道發生什麼事，更想趁著這個機會讓自己從一個 AI 產品使用者、變成努力學習 AI 的參與者。所以在 30 天鐵人賽中，我想盡我所能回答「從 LLM 輸入問題後，按下 Enter 後會發生什麼事？」 一層層的去學習，去探究發生什麼事。

適合閱讀對象

這次挑戰目標是讓自己可以逐步瞭解 LLM，並從概念上、實做上與數學上有基礎概念地來記錄我的學習筆記。

如果對於下列參考資料已經非常熟悉，會覺得本系列筆記有很多內容雷同；如果已經是 LLM、AI 領域的專家可能會覺得這系列文章非常無聊；又或者是追求 LLM 應用的人，也會覺得這系列太過理論。

但如果剛好以上皆非，又很希望一鼓作氣的從頭瞭解 LLM，那希望分享的這系列學習筆記能有所助益。

架構

有鑑於自己在學習的時候，常常覺得很多教材從最一開始介紹就會引入許多數學名詞常常看到恍神，接下來系列文章會分為三層，會重複性的說明「從 LLM 輸入問題後，按下 Enter 後會發生什麼事？」

• 以「概念」的方式，特別是不提到微積分、向量、矩陣等方式，初步回答 LLM 怎麼運作。
• 以「實做」的方式，實際試試看運作怎麼實現，以瞭解更多細節。
• 以「數學」的方式，盡我所能更深入一點點數學原理。

主要參考資料

特別想感謝 3Blue1Brown 跟李宏毅老師，讓數學不好的人也有機會一窺這個領域。

• Deep Learning with Python - François Chollet
• Neural Network and Deep Learning - Michael Nielsen
• Build a large language model (from scratch) - Sebastian Raschka
• Prompt Engineering for Generative AI - James Phoenix
• AI Engineering - Chip Huyen
• The Scaling Era An oral History Of AI - Dwarkesh Patel
• 3Blue1Brown Deep Learning 系列
• 3Blue1Brown Essence of linear algebra 系列
• 3Blue1Brown Essence of calculus 系列
• 李宏毅 機器學習 2021
• 李宏毅 生成式AI時代下的機器學習 (2025)
• 李宏毅 生成式AI導論 2024

最後，感謝大家的閱讀 🙏 作為領域新手，筆記中一定有諸多錯誤，如果文章中有任何需要修訂的地方，歡迎都可以留言告訴我，謝謝大家。