iT邦幫忙

llmops相關文章
共有 35 則文章
鐵人賽 DevOps DAY 3

技術 Day03 - LLMOps 開發環境準備:Docker + Conda

🔹 前言 昨天(Day 2)我們扮演了 PM,把專案的需求、目標和架構拆解清楚。 今天開始,就要進入實作階段了,專案程式碼已放在 GitHub,之後如果有 De...

鐵人賽 DevOps DAY 2

技術 Day02 - 企業知識庫 RAG 系統設計:從需求拆解開始

🔹 前言 通常工程師們在接到新任務的時候會由 PM (Product Manager) 產生 PRD。今天,我們也要照這個流程,先來釐清「為什麼」要做這個專案,...

鐵人賽 生成式 AI DAY 30

技術 Day30-淺談 LLMOps

鐵人賽的最後,我們再來談最近很多人關心的主題:LLMOps。 過去幾年中,MLOps 已經成為顯學。MLOps 以其自動化、標準化以及對模型全生命周期管理的能力...

鐵人賽 AI & Data DAY 2

技術 Day02 - MLOps 簡介

MLOps 發展已經有一段時間,但是在 2020 年才開始逐漸被廣泛討論,這是因為在過去許多企業開始將 AI/ML 應用於生產環境,並開始面臨 AI/ML 應用...

鐵人賽 AI & Data DAY 1

技術 Day01 - 寫在之前: 為何您需要知道從 MLOps 到 LLMOps 的混合雲實踐這篇系列文?

MLOps 的發展也已經經歷了 5 年以上,目前來到了 LLM (大型語言模型) 的時代,而 LLM 的訓練與部署,更是需要更多的資源與時間,因此 MLOps...