MLOps 的發展也已經經歷了 5 年以上，目前來到了 LLM (大型語言模型) 的時代，而 LLM 的訓練與部署，更是需要更多的資源與時間，因此 MLOps 的重要性也更加的凸顯。
大多數的 MLOps/LLMOps 的實踐，不外乎自行架設模型訓練平台，或是利用幾大家雲端服務，但是在實際的企業中，往往會有多個雲端的環境，因此我們需要更多的工具與生態圈來協助我們在混合雲的環境中，進行 MLOps/LLMOps 的實踐。

此系列將會以 MLOps/LLMOps 的幾個核心元件為主軸，分別介紹幾個常見的工具、生態圈，並且透過簡單的範例，分別在不同的工具上展示從資料工程的開發階段，程式碼管理，模型上線、監控，達到 MLOps/LLMOps 的完整實踐。

底下為此系列的大綱，將會持續更新，歡迎各位先進不吝給予指教與討論。

• MLOps 簡介
• LLM 簡介
• LLMOps 與 MLOps 的關係
• 使用 MLOps & LLMOps 幾個主流的工具與相關生態圈
• 一個簡單的範例
• Databricks
• MLflow
• Azure Machine Learning Services
• SageMaker / Vertex AI
• 其他工具 (Ray, AnyScale AI etc.)

本篇文章同步發表於 吉米筆記本