iT邦幫忙

鐵人檔案

2024 iThome 鐵人賽
回列表
生成式 AI

從系統設計切入,探索 GenAI 在企業中的實踐 系列

從第一次開發 GenAI 到現在將近一年了,這段期間分別參與了三次不同企業和規模的專案,完整經歷了至少兩次從 0 到 1 開發 RAG 服務的流程。然而雖然累積了一些實務經驗,但初跨入這個領域,仍有許多需要持續學習的地方。

在接下來的30天裡,我希望能透過寫作重整這段時間的開發經驗,並結合相關書籍與課程,反思如何優化我的開發品質,並以打造企業級產品為目標,提升自己在系統設計與生成式 AI 開發方面的技術能力。

如果這系列的文章也能幫助到你,歡迎訂閱還有留言討論,讓我們一起成長進步 :)

參賽天數 7 天 | 共 7 篇文章 | 5 人訂閱 訂閱系列文 RSS系列文 團隊SI夢想工程隊
DAY 1

[Day1] 寫作動機與學習資源

回顧自己的學習歷程 去年11月,我第一次接觸到 RAG(Retrieval Augmented Generation)專案。當時我並非相關科系出身,但憑藉在研究...

2024-09-02 ‧ 由 Pei 分享
DAY 2

[Day2] 什麼是 LLM 模型?

生成式 AI 產品最核心的當然就是 LLM 模型了,大部分企業自己架設 GenAI 產品主要是考量資安問題、以及針對使用場景 fine-tune 模型,因此對於...

2024-09-03 ‧ 由 Pei 分享
DAY 3

[Day3] LLM 如何處理文本-Tokenizer

第三天,我們進入到 transformer 的執行 pipeline 當中,當模型在處理文本時,需要先將文本轉換為模型能理解的形式,而 tokenizer 就是...

2024-09-04 ‧ 由 Pei 分享
DAY 4

[Day4] Token 之間的關係如何衡量-Embedding & Vectors

在前兩天的文章中,我們探討了 Transformer 模型的運作原理及 Tokenizer 如何將自然語言轉換成模型能夠理解的數字。今天,我們將進一步介紹嵌入(...

2024-09-05 ‧ 由 Pei 分享
DAY 5

[Day5] 如何選擇使用的 LLM 模型?

由於我們的目標是在開發生成式 AI 產品,所以會更著重在前述所提到的 decoder-only transformer models,而這也是許多現在知名生成式...

2024-09-06 ‧ 由 Pei 分享
DAY 6

[Day6] LM Studio-一鍵架好你的地端 Chatbot

有了模型之後再來就是使用介面了。現在有很多快速提供介面的服務像 ChatOllama、OpenGPTs 和 HuggingChat 等等,不過為了快速體驗整個...

2024-09-07 ‧ 由 Pei 分享
DAY 7

[Day7] HuggingFace 下載 LLM & License 開源授權商用須知

HuggingFace 是一個更正式的模型下載平台,也可以讓我們尋找其他開發者 fine-tune 過的不同模型。 Model Hub 先進入到 Model...

2024-09-08 ‧ 由 Pei 分享