在 AI 服務正式上線後，挑戰才真正開始。
模型的效能、成本、延遲、資料偏移（Data Drift）與持續學習（Continuous Learning）都會影響產品品質。

今天我們將聚焦於「AI 系統的營運自動化（MLOps）」——
讓模型不只是能「部署」，而是能「長期穩定運行」。

🎯 今日目標

1. 理解 MLOps 在生產環境中的角色
2. 建立模型版本控管與部署流程
3. 監控模型效能與使用情境（Model Monitoring）
4. 自動化模型更新與再訓練（Retraining Pipeline）

🧠 為什麼要做 MLOps？

在傳統軟體開發中，我們有 DevOps：

Code → Build → Test → Deploy → Monitor → Feedback

在 AI 專案中，我們需要的是 MLOps：

Data → Train → Validate → Deploy → Monitor → Retrain

因為 AI 模型的品質取決於「資料 + 模型 + 推論環境」，
沒有持續監控與調整，模型的效能會逐漸下降。

🧩 MLOps 的核心架構

🧱 Azure 與 Vertex AI 的實踐方式

🔹 Azure AI Foundry

• 使用 Azure ML Studio + Pipelines 自動化訓練
• 模型版本控制由 Model Registry 負責
• 可透過 Azure DevOps 或 GitHub Actions 觸發部署
• 監控整合 Application Insights 與 Azure Monitor

🔹 Vertex AI

• Vertex Pipelines 用於構建端到端工作流
• Model Registry 管理模型版本與部署狀態
• Continuous Evaluation 監控模型表現
• 可使用 Vertex Model Monitoring 檢測資料偏移與異常行為

⚙️ 實作範例：自動重訓與部署流程

A[新資料進入 Storage] --> B[觸發 Pipeline]
B --> C[資料清理與特徵工程]
C --> D[重新訓練模型]
D --> E[驗證與評估]
E --> F{效能改善?}
F -->|Yes| G[自動部署新模型版本]
F -->|No| H[維持現有版本]
G --> I[更新 Model Registry]
H --> I
I --> J[通知開發團隊 / 記錄事件]

這樣的循環可以確保模型能「隨著資料演進」而成長。

實戰技巧：讓 MLOps 更有效率

以 Git 為核心的版本控管：
模型、程式碼、Pipeline YAML 全都進版本控制。

自動化報表生成：
每次訓練完成後自動輸出模型效能報告。

灰度發布（Canary Deployment）：
新模型先在少量流量上測試再全面替換。

Alert 通知與自動回滾：
效能下降時自動切回上一版本。

以成本為考量的排程重訓：
避免不必要的重訓浪費 GPU 成本。

小結

MLOps 的目標是讓 AI 模型：

• 持續學習
• 自動部署
• 即時監控
• 穩定成長

這不只是技術挑戰，更是產品成熟度的象徵。
能成功導入 MLOps 的團隊，往往代表 AI 已經從「概念驗證（POC）」邁入「商業化運作」。