從第一次開發 GenAI 到現在將近一年了,這段期間分別參與了三次不同企業和規模的專案,完整經歷了至少兩次從 0 到 1 開發 RAG 服務的流程。然而雖然累積了一些實務經驗,但初跨入這個領域,仍有許多需要持續學習的地方。
在接下來的30天裡,我希望能透過寫作重整這段時間的開發經驗,並結合相關書籍與課程,反思如何優化我的開發品質,並以打造企業級產品為目標,提升自己在系統設計與生成式 AI 開發方面的技術能力。
如果這系列的文章也能幫助到你,歡迎訂閱還有留言討論,讓我們一起成長進步 :)
回顧自己的學習歷程 去年11月,我第一次接觸到 RAG(Retrieval Augmented Generation)專案。當時我並非相關科系出身,但憑藉在研究...
生成式 AI 產品最核心的當然就是 LLM 模型了,大部分企業自己架設 GenAI 產品主要是考量資安問題、以及針對使用場景 fine-tune 模型,因此對於...
第三天,我們進入到 transformer 的執行 pipeline 當中,當模型在處理文本時,需要先將文本轉換為模型能理解的形式,而 tokenizer 就是...
在前兩天的文章中,我們探討了 Transformer 模型的運作原理及 Tokenizer 如何將自然語言轉換成模型能夠理解的數字。今天,我們將進一步介紹嵌入(...
由於我們的目標是在開發生成式 AI 產品,所以會更著重在前述所提到的 decoder-only transformer models,而這也是許多現在知名生成式...
有了模型之後再來就是使用介面了。現在有很多快速提供介面的服務像 ChatOllama、OpenGPTs 和 HuggingChat 等等,不過為了快速體驗整個...
HuggingFace 是一個更正式的模型下載平台,也可以讓我們尋找其他開發者 fine-tune 過的不同模型。 Model Hub 先進入到 Model...