本書改編自我參加 2023 年第 15 屆 iThome 鐵人賽 AI & Data 組冠軍系列文章《LLM 學習筆記》，介紹了許多在建立 LLM 相關應用時會使用到的技術。

在雲端可以透過簡單的 ChatGPT API 打造有趣的塔羅占卜應用，在地端有 Hugging Face TGI、vLLM、llama.cpp 等推論框架，就算只有單顯卡也能高速部署、輕鬆玩轉各式各樣 Open Source 的 LLM。

透過多種量化技術減少記憶體開銷，小顯卡也能推動大模型！還有許多文本檢索的技巧，帶你一步步構築出 RAG 實務應用。最後當然少不了，透過 LoRA 訓練手法輕鬆打造專屬於你的客製化語言模型！

我根據自身的實務經驗，介紹深入但是易懂的理論，使用簡單但是務實的技術，帶領大家瞭解如何在低成本、低資源的環境中打造 LLM 相關應用。無論你是求知若渴的研究員，或是躍躍欲試的工程師，都能從本書中得到滿滿的收穫！

本書預計於 8/9 上市，也就是下個禮拜！現在可以在天瓏網路書局上預購，還請大家多多支持！順手幫我分享臉書貼文，感謝各位 🙏

博碩 | 天瓏 | 博客來 | 金石堂 | momo | 三民 | 誠品 | 灰熊 iRead | iThome 系列原文

===

最近鐵人賽也開打了，預祝各位鐵人順利完賽！