iT邦幫忙

2024 iThome 鐵人賽

DAY 29
0

微軟在今年推出了一個全新的平台,叫做 Azure AI Studio。這個算是集微軟 AI 服務於大成的一個平台。旨在幫助開發者和資料科學家通過簡化的 UI,開發、部署和管理生成式 AI 應用和 Azure AI API。該平台整合了 Azure 提供的廣泛 AI 功能,從建模、測試到最終的部署和監控,提供了一站式服務。

Azure AI Studio 的架構

Azure AI Studio 提供了一個統一的開發體驗,讓 AI 開發者和資料科學家能夠通過網頁入口、SDK 或 CLI 建立、評估並部署 AI 模型。它建立在 Azure 其他服務的基礎之上,將 Azure OpenAI、Azure AI Service和 Azure AI Search等 AI 相關的資源,以進行統一管理。簡單來說就是整合了 Azure 上大部份 AI 服務的大平台。

  1. AI Studio Hub(中樞):中樞是 Azure AI Studio 的頂層資源。它基於 Azure Machine Learning 的工作區架構,資源提供者為 Microsoft.MachineLearningServices/workspaces,資源類型為「Hub」。中樞的作用包括:

    • 安全配置:中樞提供跨專案和模型端點的網路安全管理。
    • 計算資源:提供互動開發、微調、開源和無伺服器模型部署的計算資源。
    • 連接其他 Azure 服務:中樞與 Azure OpenAI、Azure AI Service及 Azure AI Search的連接是共享的,並且可應用於該中樞下的所有專案。
    • 專案管理:一個中樞可以管理多個專案,且每個專案可以繼承中樞的安全設置和資源訪問。
  2. AI Studio Project(專案):專案是中樞的子資源,同樣基於 Azure Machine Learning 架構。專案提供了開發工具來構建和自定義 AI 應用,並且可以:

    • 訪問可重複使用的組件,包括資料集、模型和索引。
    • 將資料上傳到中樞繼承的儲存空間,並在專案內部進行數據隔離。
    • 部署從模型目錄或自定義微調的模型端點。

中樞與專案的關係:中樞作為頂層資源,負責集中管理安全、連接性和計算資源。專案則是在中樞下進行開發工作的具體實體。每個專案可以與中樞共享資源,也可以擁有其特定的專案範圍連接,例如專案成員可以訪問儲存在 Azure storage account 中的資料,而不與其他專案共享。

結構如下圖微軟官方所示:

生成式 AI 時代下的 Azure Machine Learning 教學圖文

Azure AI Studio 與 Azure Machine Learning Studio 的比較

Azure AI StudioAzure Machine Learning Studio 都是 Azure 的 AI 開發平台,但它們的應用場景有所不同。Azure AI Studio 更專注於生成式 AI 應用的開發,而 Azure Machine Learning Studio 則是專門為機器學習工程師和資料科學家設計的 end to end 的機器學習平台。兩者的功能重疊部分包括 Prompt Flow 、Model Catalog,和負責任 AI 等工具,但 Azure Machine Learning Studio 提供更多針對機器學習模型的訓練與管理功能。

Azure AI Studio 是為需要快速構建生成式 AI 應用的開發者設計的,提供大一統的 SDK,可以透過這包大包的 SDK,來控制 Azure 上相關的資源。它專注於生成式 AI 應用和多模態、跨語言的 AI 應用開發,並且支持無伺服器的 API 部署。

總結來說,兩者的選擇取決於你的具體需求。如果你是想快速開發生成式 AI 應用並且使用 Azure 提供的現成 API 和模型,Azure AI Studio 是更適合的選擇;而如果你的工作重點是針對大規模機器學習模型的訓練和管理,並且需要深入控制模型的開發流程,那麼 Azure Machine Learning Studio 將更為合適。

我是建議可以再讓子彈飛一會兒,等 Azure AI Studio 更成熟穩定後再導入產品級服務。其實以我們過去三十天的操作,Azure Machine Learning 其實也已經很適用大部份的狀況了。


上一篇
Day28-建立 Prompt Flow
下一篇
Day30-淺談 LLMOps
系列文
生成式 AI 時代下的 Azure Machine Learning30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言