在 AI 專案中，從模型訓練到實際上線的過程，
往往不是「一鍵上線」那麼簡單。
要確保模型穩定、版本一致、可追蹤、可回滾，
就需要一套完整的 部署策略與多環境管理機制。

🔹 為什麼需要多環境管理？

一般 AI 專案至少會有三個環境：

透過環境分層，我們可以：

• 減少錯誤模型直接進入正式環境的風險
• 確保版本一致性與回滾可行
• 實現自動化審核與部署流程（CI/CD for ML）

🔹 AI 部署的常見挑戰

🔹 Azure AI Foundry 的部署策略

Azure 在企業級 AI 部署上提供非常完整的工具組合，
可從訓練 → 測試 → 部署 → 監控全自動化銜接。

🧩 核心機制：

1️⃣ Azure Machine Learning Environments

• 定義可重現的運行環境（含依賴庫、版本、容器基底）
• 確保 DEV → TEST → PROD 一致性

2️⃣ Model Registry + Managed Endpoints

• 模型經訓練後自動登錄至 Model Registry
• 可指派版本號（v1, v2…）與部署階段（staging / production）
• Blue-Green Deployment 或 Canary Rollout 支援漸進式上線

3️⃣ MLOps Pipeline (Azure DevOps / GitHub Actions)

• 可透過 CI/CD 自動推送模型至不同環境
• 範例流程：

  Train → Register → Validate → Deploy to Staging → Approve → Deploy to Prod
  

4️⃣ 安全控管
與 Azure Key Vault 整合保護 API 金鑰與連線字串

使用 Role-Based Access Control (RBAC) 限制模型操作權限

🔹 Vertex AI 的部署與環境管理
Google 的 Vertex AI 以統一的「Model Resource」概念來管理模型生命周期。
其部署策略更強調「自動化 + 可回溯」。

🧩 核心機制：
1️⃣ Model Registry
與 Azure 類似，集中管理所有版本的模型與元資料。

每個模型可有不同版本（versioned model）與 endpoint 綁定。

2️⃣ Endpoints（Prediction Services）
可同時部署多版本模型，透過 流量分配比例 (Traffic Split)
進行 A/B 測試 或 漸進式上線。

例如：

v1（舊版）佔 80% 流量

v2（新模型）佔 20% 流量

3️⃣ Pipeline + Cloud Build
結合 Vertex AI Pipelines 與 Cloud Build 實現自動化部署。

支援 approval steps（人工審核）防止誤推正式環境。

4️⃣ IAM 與安全控管
透過 Google IAM 角色細分權限（如 Model Viewer, Model Deployer）

支援服務帳號隔離，確保不同專案彼此不干擾。

🔹 Azure vs Vertex AI 多環境管理比較
項目 Azure AI Foundry Google Vertex AI
模型登錄機制 Model Registry Model Registry
多版本部署 Managed Endpoint with Blue/Green Endpoint with Traffic Split
自動化部署 Azure DevOps / GitHub Actions Cloud Build / Pipelines
環境一致性 Azure ML Environment 定義 Container-based runtime
權限與金鑰控管 RBAC + Key Vault IAM + Service Accounts
典型策略 企業治理導向 自動化與快速迭代導向

💡 重點對比：

Azure：強調「治理、審查、穩定性」—— 適合企業內部標準化流程。

Vertex：強調「靈活與快速」—— 適合雲原生與跨團隊協作。

🔹 實務落地建議
建立清晰的環境階層與命名規則

例：ai-dev, ai-staging, ai-prod

確保每個模型與 endpoint 都有一致的 metadata。

自動化審核機制

在 CI/CD 流程中增加「人工審核」節點。

確保模型在推至生產環境前通過驗證。

導入版本化與可回滾機制

每次部署應保留先前版本並記錄 Metadata。

問題發生時可立即回滾至穩定版本。

實施 Canary / Blue-Green 部署策略

將新模型以小流量上線觀察表現，再逐步擴大流量。

加強環境一致性

使用容器化與自動化環境定義，確保訓練與推論一致。

🔹 小結
在 Day23 我們學到：

多環境管理是 AI 專案穩定性的基礎

Azure 與 Vertex 都提供完整的模型登錄與部署控制

Azure 偏向治理導向，Vertex 偏向靈活導向

最佳實踐包括：版本控管、自動化審核、回滾與流量分配策略