iT邦幫忙

2023 iThome 鐵人賽

DAY 16
0
AI & Data

MLOps/LLMOps - 從零開始系列 第 16

Day16 - MLOps 自架環境之一: PrimeHub 的好處與未來的期待

  • 分享至 

  • xImage
  •  

由前兩篇的簡介與比較,另外加上實際操作來說明使用 PrimeHub Solution 的好處與未來的期待。

好處

  • 對於 IT 部門來說,透過 PrimeHub 簡單直覺的介面,可以輕易地管理使用者、群組、運算資源、映像檔、磁碟空間、授權等等。
  • 對於 Operation 考量,有非常直覺的使用者介面,可以快速查看各種資源使用的狀況與報表功能。
  • 安裝支援單機 (Single Node) 與 叢集 (Multiple Node),並可以支援離線安裝與管理 (Isolated Network / Air-gapped)
  • 透過 Instance Type 的設計,可以針對不同的使用者群組,提供不同的運算資源。
  • 對於資料科學家來說,可以輕易地使用 Notebook, Job, Deployment 等等功能,並且可以輕易地與其他人共享資料與程式碼。

限制 (說是對於未來版本的期待好了)

  • 針對 DataOps,尤其是 Data Catalog 的部份,能提供方便的整合 (也許是 dbt support 或是 PipeRider?)。
  • 針對 ModelOps,可以將 MLflow 的功能,放到同一個 PrimeHub UI 會更直覺
  • 針對 DevOps,可以提供更多的 CI/CD 的整合,像是 Jenkins, GitLab, CircleCI 等等。

Reference:


上一篇
Day15 - MLOps 自架環境之一: PrimeHub 與 MLOps 相關的功能
下一篇
Day17 - MLOps 自架環境之二: Ray Cluster 簡介
系列文
MLOps/LLMOps - 從零開始30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言