iT邦幫忙

2021 iThome 鐵人賽

DAY 30
1
AI & Data

從 AI 落地談 MLOps系列 第 30

Day 30 : 綜合整理 MLOps Level 0 ~ 2

  • MLOps 是值得持續投入的新興學門,如同 Day 01 談到的此系列目的,談如何從佈署機械學習至商業情境(ML in Production),並關注佈署之後所需注意的資料品質、模型版本控制與剪枝、AI 可解釋力、錯誤分析、自動化 ML 到持續佈署,期待用 ML 專案生命週期的角度執行 MLOps 需要的。目標很宏大,篇幅與表達能力有限,筆者很享受這趟整理的路程。

  • 30 天過去了,梳理我們在AI落地談 MLOps 中有那些進展。

談觀念:

談實踐

技術介紹隨著機械學習生命週期推進,系列主軸希望介紹由 Google 開源的 TensorFlow Extended (TFX) 做為用於生產的機械學習框架,也以ML系統生命週期介紹實踐與模型優化方法。

MLOps Level 0 ~ 2

  • 系列文的最後,容許筆者將 MLOps 等級劃分作為投入用於生產的機械學習的實踐路徑。以下的等級劃分採用 Google 的定義,採等級 0 至 2 ,微軟也有機器學習作業成熟度模型的定義分為等級 0 至 5 ,您可以相互對照參考。

MLOps Lebel 0 : 手動的過程

  • 一個全手動,沒有 CI/CD 的過程,訓練與佈署之間可能有時間延遲的偏態 Skew 產生,非自動化持續訓練,版本追溯有難度,也缺乏主動監控機制,在最初投入產生可行方案時的過渡時期,但較難因應服務崩潰與中斷的狀況。

MLOps Lebel 1 : 自動化流程

  • MLOps 等級 1 導入自動化訓練流程,可以自動持續交付佈署模型,另外也有手動訓練模型的機制,訓練好的模型交付 IT 或維運團隊佈署上線。
  • 等級 1 已經足夠挑戰用於生產的情境,模型需手動測試管道與組件,在不頻繁的佈署、尚只有少數機械學習服務投入生產情境時還可以因應管理,一但您在生產中管理許多 ML 服務,則需要一個 CI/CD 設置來自動構建、測試和部署 ML 的流程。

MLOps 級別 2:CI / CD 管道自動化

  • 為了快速可靠地更新生產中的管道,您需要一個強大的自動化 CI/CD 系統。這個自動化的 CI/CD 系統讓資料科學團隊快速探索特徵工程、模型架構和超參數的新想法。並且可以實現自動構建、測試並將新的管道組件部署到目標環境。
  • 下圖為具有自動觸發、 CI/CD/CT 與監控的自動化機械學習工作流程。

致謝

  • 今年為了 MLOps 做了許多功課,很大一部分要感謝 GCP 的活動 Google Cloud 開發者技術培訓計劃 / Google Cloud Study Jam (Taiwan and Hong Kong),解完12組題組(其實早就超過)拿到衣服、背包,又能實際摸索 GCP 各功能,相當優質。
  • 更要感謝 Coursera 開設的 Machine Learning Engineering for Production (MLOps) 課程,當得知吳恩達新課剛好是期待的 MLOps 主題,立馬申請助學金完成這4堂優質技術內容,每門課程約需進行4至5週,總是迫不及待想整理與分享,也因此能有更多有趣實用的主題能整理至鐵人賽。
  • 本系列範例多以官網或官網修改而成,原因為對照官方文件學習資源較為充足,即便如此官方範例實在是略顯繁雜,特別是以 TFX 介紹為主軸不是件容易的事。適逢 2021年5月19 TFX 正式邁入 1.0 穩定版,深感 TFX 中文資源缺乏,於是有了在 iThome 鐵人賽貢獻與整理的念頭。
  • 最後就是感謝能陪我一起煎熬的走完 30 日內容的您,有限篇幅內講述龐大知識體系著實不易,興許會隨著 MLOps 主題延伸介紹更新,如果對您有幫助就值得了,由衷感謝。

/images/emoticon/emoticon41.gif/images/emoticon/emoticon41.gif /images/emoticon/emoticon41.gif /images/emoticon/emoticon41.gif /images/emoticon/emoticon41.gif

參考


上一篇
Day 29 : 用於生產的 TensorFlow Extended (TFX) 實作
系列文
從 AI 落地談 MLOps30

1 則留言

0
chihying
iT邦新手 5 級 ‧ 2021-10-04 11:09:54

這系列真的寫得超好的,雖然一樣上了Coursera的課程,但對知識的掌握度差您太多了!
/images/emoticon/emoticon70.gif

威利斯 iT邦新手 4 級 ‧ 2021-10-04 11:33:18 檢舉

謝謝您的肯定,吳恩達此次 MLOps 系列課程知識量超乎想像,而您的系列文旁徵博引圖解清楚又精采,已訂閱,對 MLOps 主題有興趣的看倌們也記得去支持啊~!
/images/emoticon/emoticon43.gif

我要留言

立即登入留言