iT邦幫忙

2024 iThome 鐵人賽

DAY 25
0

我們聊完了整個 Model catalog、開源模型的部署、Fine Tune、RAG,接下來我們再來聊別的主題吧:CLI 和 SDK

Azure Machine Learning CLI v 2 是 Azure CLI 的最新擴充功能。 CLI v 2 會以 az ml <noun><verb><options> 的格式提供命令,以建立和維護 Machine Learning asset 和工作流程。但是我幾乎沒有在使用 CLI ,因為比較起來,我更愛 Python SDK,因為彈性更高。

我以前寫過 Azure Machine Learning Python SDK v 1 的系列教學文了,可以去這裡看 https://ithelp.ithome.com.tw/users/20120030/ironman/4905

後來微軟推出了 v2 的 Python SDK,更好用也更有彈性。

Azure Machine Learning Python SDK v1 沒有計劃的淘汰日期。如果您對 Python SDK v1 進行了大量投資,而且不需要 SDK v2 所提供的任何新功能,則可以繼續使用 SDK v1。不過,如果有下列情形,請考慮使用 SDK v2:

  • 您想要使用新功能,例如可重複使用的元件和 managed inference 的功能。
  • 您正在啟動新的工作流程或 pipeline,所有新功能都會在 v2 中推出。
  • 想要提高 function 的可用性的話,Python SDK v2 會比較好。

使用 SDK V2 開一個新的 workspace

我們可以使用指令來安裝 SDK v2:poetry add azure-ai-ml

from azure.identity import DefaultAzureCredential
from azure.ai.ml import MLClient
from azure.ai.ml.entities import Workspace


# 創建 Azure 憑證
credential = DefaultAzureCredential(interactive_browser_tenant_id="<你的 tenant id>")


# 創建 MLClient,這裡不需要工作區名稱
ml_client = MLClient(
    credential=credential,
    subscription_id="<你的 subscription id>",
    resource_group_name="ironman2024"
)

# 設置工作區的相關參數
workspace = Workspace(
    name="ironman2024-eastus2",
    location="eastus2",  # 例如 "eastus"
    resource_group="ironman2024"
)

# 創建新的工作區
workspace_creation = ml_client.workspaces.begin_create(workspace).result()

print(f"工作區 '{workspace_creation.name}' 已成功創建,位於 {workspace_creation.location}")



我們這樣子就在 eastus2 開好了一個 workspace 了,如下圖所示。你要 fine tune Phi 3 model 就可以在這個 workspace 裡操作哦!

生成式 AI 時代下的 Azure Machine Learning 教學圖文

比較 SDK V1 開一個新的 workspace 的寫法

為了方便讀者比較兩個版本的寫法,下面附上 SDK V1 的寫法。使用的套件是 azureml-sdk,這個和現在寫法是完全不一樣的

from azureml.core import Workspace
ws = Workspace.create(name='<您要的workspace名稱'>,
                      subscription_id='<您的subscription_id'>,
                      resource_group='ironman-sdk', # 您的resource_group名稱
                      create_resource_group=True, # resource_group 不存在時,是否建立新的。
                      location='westus2' # 地點
                      )

明天我們就來看 Azure ML 在生成式 AI 時代下的另一個功能:Prompt Flow 吧!


上一篇
Day24-用 RAG 來比較 Fine Tune 的結果
下一篇
Day26-認識 Prompt Flow
系列文
生成式 AI 時代下的 Azure Machine Learning30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言