iT邦幫忙

2023 iThome 鐵人賽

DAY 1
0
AI & Data

MLOps/LLMOps - 從零開始系列 第 1

Day01 - 寫在之前: 為何您需要知道 "MLOps/LLMOps - 從零開始" 這篇系列文?

  • 分享至 

  • xImage
  •  

Day01 - 寫在之前: 為何您需要知道 "MLOps/LLMOps - 從零開始" 這篇系列文?


MLOps 的發展也已經經歷了 5 年以上,目前來到了 LLM (大型語言模型) 的時代,而 LLM 的訓練與部署,更是需要更多的資源與時間,因此 MLOps 的重要性也更加的凸顯。
大多數的 MLOps/LLMOps 的實踐,不外乎自行架設模型訓練平台,或是利用幾大家雲端服務,但是在實際的企業中,往往會有多個雲端的環境,因此我們需要更多的工具與生態圈來協助我們在混合雲的環境中,進行 MLOps/LLMOps 的實踐。

此系列將會以 MLOps/LLMOps 的幾個核心元件為主軸,分別介紹幾個常見的工具、生態圈,並且透過簡單的範例,分別在不同的工具上展示從資料工程的開發階段,程式碼管理,模型上線、監控,達到 MLOps/LLMOps 的完整實踐。

底下為此系列的大綱,將會持續更新,歡迎各位先進不吝給予指教與討論。

  • MLOps 簡介
  • LLM 簡介
  • LLMOps 與 MLOps 的關係
  • 使用 MLOps & LLMOps 幾個主流的工具與相關生態圈
  • 一個簡單的範例
  • Databricks
  • MLflow
  • 其他工具 (Azure Machine Learning Services / SageMaker / Vertex AI / Ray, AnyScale AI etc.)

本篇文章同步發表於 吉米筆記本

#15th鐵人賽 #iThome #MLOps #LLMOps #LLM


下一篇
Day02 - MLOps 簡介
系列文
MLOps/LLMOps - 從零開始30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言