全端 LLM 應用開發-Day01-前言

去年 12 月，ChatGPT 的誕生震驚了全世界，大型自然語言模型（LLMs）的發展達到了前所未有的高度，也因此 LLM 相關的應用開發變成全世界關注的課題。

小弟我為多年經驗的工程師，目前蟬聯四次 AI 領域的微軟最有價值專家（Microsoft AI MVP）。同時為國際知名的技術年會講者，在國內外許多技術年會做過分享，包含了 COSCUP、ModernWeb、名古屋開源年會、香港開源年會、PyCon APAC、PyCon HK、DevDays Asia 等等的大型技術年會。

多年來我帶領 AI 團隊完成許多大型專案，也一直在分享 AI 相關的知識與技術，例如在去年 LLMs 尚未爆紅時，就在鐵人賽有系統地整理與介紹 Hugging Face。今年中和朋友合寫了《駕馭 ChatGPT 4: 探索 Azure OpenAI 與 Cognitive Service for Language 開發實踐 (使用.NET 與 Node.js)》一書，本書中我講解了許多當代自然語言應用開發的知識與觀念，並拿到天瓏書局之暢銷書七月份第二名。此外，我也是 Chatbot Developers Taiwan 的核心成員，在社群裡分享過許多做對話式 AI 的經驗。在此基礎上，我規劃了以下精彩內容，期待這次能夠成功完賽：

1. 虛擬環境：教了 Python 這麼多年，發現許多有多年 Python 經驗的工程師，依然不太會使用虛擬環境。因此我會從這個基礎概念切入，帶大家認識虛擬環境，以及我們研發 LLMs 應用程式時，使用虛擬環境的一些尾角

2. Hugging Face：Google 之前內部流出的文件說 OpenAI 沒有護城河，他們自己也沒有。該文件指出說，開源的自然語言模型會在接下來的市場上成為主流。如果這篇文章的論述是真的，那麼 Hugging Face 就會成為接下來最重要的一個平台。這一段會帶大家快速入門 Hugging Face。

3. 向量資料庫專章：向量資料庫可以說是 LLM 應用程式的核心。我會花極大的篇幅在這個部份。

4. Function Calling：Function Calling 是 LLM 應用程式的核心，可以讓你整合其他的 Web API。我們會在這一段做一個完整的範例。

5. Azure Machine Learning：Azure Machine Learning 是最完整的企業級 ML 解決方案之一，在這個部份我也會分享怎麼使用 Azure ML 來整合或開發 LLM 應用。

6. Stream 主題：Stream 是 Open AI API 裡的一個選項，許多 web 從業工程師可能至今沒有使用過這個功能。因此我會在這裡完整講解與說明前後端如何實作。

7. Langchain：Langchain 是目前最做 LLMs 最主流的框架，同時也是最多坑。在這裡也是重點介紹與實戰

8. 穿插應用實戰：在介紹以上項目時，我會穿插許多應用項目實戰。讓大家有現學現賣的成就感。

但是，太太預產期在即，如果真的忙不過來的話，有可能就會因此斷更。畢竟家人是和事業同等重要的第一順位。