我們聊完了整個 Model catalog、開源模型的部署、Fine Tune、RAG,接下來我們再來聊別的主題吧:CLI 和 SDK
Azure Machine Learning CLI v 2 是 Azure CLI 的最新擴充功能。 CLI v 2 會以 az ml <noun><verb><options>
的格式提供命令,以建立和維護 Machine Learning asset 和工作流程。但是我幾乎沒有在使用 CLI ,因為比較起來,我更愛 Python SDK,因為彈性更高。
我以前寫過 Azure Machine Learning Python SDK v 1 的系列教學文了,可以去這裡看 https://ithelp.ithome.com.tw/users/20120030/ironman/4905 。
後來微軟推出了 v2 的 Python SDK,更好用也更有彈性。
Azure Machine Learning Python SDK v1 沒有計劃的淘汰日期。如果您對 Python SDK v1 進行了大量投資,而且不需要 SDK v2 所提供的任何新功能,則可以繼續使用 SDK v1。不過,如果有下列情形,請考慮使用 SDK v2:
我們可以使用指令來安裝 SDK v2:poetry add azure-ai-ml
from azure.identity import DefaultAzureCredential
from azure.ai.ml import MLClient
from azure.ai.ml.entities import Workspace
# 創建 Azure 憑證
credential = DefaultAzureCredential(interactive_browser_tenant_id="<你的 tenant id>")
# 創建 MLClient,這裡不需要工作區名稱
ml_client = MLClient(
credential=credential,
subscription_id="<你的 subscription id>",
resource_group_name="ironman2024"
)
# 設置工作區的相關參數
workspace = Workspace(
name="ironman2024-eastus2",
location="eastus2", # 例如 "eastus"
resource_group="ironman2024"
)
# 創建新的工作區
workspace_creation = ml_client.workspaces.begin_create(workspace).result()
print(f"工作區 '{workspace_creation.name}' 已成功創建,位於 {workspace_creation.location}")
我們這樣子就在 eastus2 開好了一個 workspace 了,如下圖所示。你要 fine tune Phi 3 model 就可以在這個 workspace 裡操作哦!
為了方便讀者比較兩個版本的寫法,下面附上 SDK V1 的寫法。使用的套件是 azureml-sdk
,這個和現在寫法是完全不一樣的
from azureml.core import Workspace
ws = Workspace.create(name='<您要的workspace名稱'>,
subscription_id='<您的subscription_id'>,
resource_group='ironman-sdk', # 您的resource_group名稱
create_resource_group=True, # resource_group 不存在時,是否建立新的。
location='westus2' # 地點
)
明天我們就來看 Azure ML 在生成式 AI 時代下的另一個功能:Prompt Flow 吧!