iT邦幫忙

鐵人檔案

2024 iThome 鐵人賽
回列表
生成式 AI

從系統設計切入,探索 GenAI 在企業中的實踐 系列

從第一次開發 GenAI 到現在將近一年了,這段期間分別參與了三次不同企業和規模的專案,完整經歷了至少兩次從 0 到 1 開發 RAG 服務的流程。然而雖然累積了一些實務經驗,但初跨入這個領域,仍有許多需要持續學習的地方。

在接下來的30天裡,我希望能透過寫作重整這段時間的開發經驗,並結合相關書籍與課程,反思如何優化我的開發品質,並以打造企業級產品為目標,提升自己在系統設計與生成式 AI 開發方面的技術能力。

如果這系列的文章也能幫助到你,歡迎訂閱還有留言討論,讓我們一起成長進步 :)

鐵人鍊成 | 共 30 篇文章 | 9 人訂閱 訂閱系列文 RSS系列文 團隊SI夢想工程隊
DAY 21

[Day21] 結構化資料前處理:Pydantic 管理資料狀態

以下參考課程 LLM Twin: Building Your Production-Ready AI Replica 撰寫 在課程中,爬取的資料會同時以 RAG...

2024-09-22 ‧ 由 Pei 分享
DAY 22

[Day22] 結構化資料前處理:架設從 RabbitMQ 到 Qdrant 向量儲存的資料流

以下參考課程 LLM Twin: Building Your Production-Ready AI Replica 撰寫 在資料處理領域,資料流處理和批量處理...

2024-09-23 ‧ 由 Pei 分享
DAY 23

[Day23] 結構化資料前處理:清理、分塊與嵌入

以下參考課程 LLM Twin: Building Your Production-Ready AI Replica 撰寫 在過去兩天的大量學習和實踐中,我們深...

2024-09-24 ‧ 由 Pei 分享
DAY 24

[Day24] 使用 LLM 自動生成 Fine-tuning 資料集

以下參考課程 LLM Twin: Building Your Production-Ready AI Replica 撰寫 什麼是 LLM Fine-tunin...

2024-09-25 ‧ 由 Pei 分享
DAY 25

[Day25] 使用 CometML 管理 RAG 實驗參數與結果

生成式 AI 開發高度依賴實驗和優化過程。考慮到不同的模型架構、提示詞策略和訓練參數對模型性能的影響,每次實驗的結果都必須詳細記錄和比較。隨著GenAI 應用的...

2024-09-26 ‧ 由 Pei 分享
DAY 26

[Day26] 防止惡意攻擊:如何通過 VPC 和 Load Balancer 保護核心服務

隨著生成式 AI 系統日益複雜,安全性成為設計過程中的一個重要議題。例如,當我們開發一個核心的 generator 服務來處理文本或圖像生成時,這些服務每次請求...

2024-09-27 ‧ 由 Pei 分享
DAY 27

[Day27] OpenAPI 規範:基礎介紹與 FastAPI 的自動化 API 配置

在現代微服務架構中,隨著 API 數量不斷增多,如何有效地管理 API 成為後端開發中的一大挑戰。API Gateway 作為一個統一的入口,幫助我們控制外部流...

2024-09-28 ‧ 由 Pei 分享
DAY 28

[Day28] 測試驅動開發 (TDD):實現穩定性與快速迭代的開發模式

隨著服務規模的擴展和 API 數量的增加,系統的穩定性變得愈發重要。在**生成式AI(GenAI)**的開發中,企業級項目通常需要快速迭代以適應市場需求變化,這...

2024-09-29 ‧ 由 Pei 分享
DAY 29

[Day29] 指標驅動開發 (MDD):如何通過 RAGAs 量化 RAG 生成效果

在上一篇文章中,我們介紹了如何運用 TDD(Test-Driven Development) 來應對 GenAI 開發中的快速迭代與穩定發佈需求,通過測試優先的...

2024-09-30 ‧ 由 Pei 分享
DAY 30

[Day30] 用敏捷思維引導生成式 AI 開發

在鐵人賽的最後一天,我選擇以敏捷開發作為收尾。 這短短 30 天的內容只是生成式 AI 領域的冰山一角。在這個領域中,技術發展與需求變化極為迅速,對每個開發團隊...

2024-10-01 ‧ 由 Pei 分享