鐵人檔案
在 2021 年，我撰寫了台灣最完整的 Azure Machine Learning 教學文。隨著 ChatGPT 的誕生，生成式 AI 掀起巨變，Azure Machine Learning 也迅速轉型，加入大語言模型部署、prompt flow 等新功能。我決定要再次撰寫教學文，聚焦 Azure Machine Learning 在生成式 AI 時代的新功能，並探討 Azure AI Studio 和 SDK。
今天開始來寫程式，串接部署在 Azure ML 上面的 Llama-3.1-8B-Instruct。 使用 curl 我們可以單純使用下面這個 curl 來呼叫...
今天我們來用 model catalog 部署多模態的 AI 模型。 我們來部署 Phi-3.5 Vision-Instruct 。這是一款由 Microsof...
大語言模型的 Fine Tune 一直是大家很關注的問題，我們接下來的幾天就會實際帶大家在 Azure Machine Learning 上 Fine Tun...
Fine Tune 的資料集準備，是最困難的一件事了。資料集中的每個例子應該是一段對話，並遵循 OpenAI chat completion API 的格式。需...
今天我們用 tkinter 來寫一個輸入資料可以產生 JSONL 的小工具。 Tkinter 是 Python 的 GUI 套件，它提供了一個簡單易用的方式來建...
今天我們就來整理資料吧！ 打開我們昨天寫好的工具，使用指令 poetry shell 進到虛擬環境裡面，然後讓那個 Python 檔給跑起來。就會看到如下圖的...
今天就要來 Fine Tune 了。需要注意的是，不是每個 workspace 所在的區域都有 Fine Tune 的。舉例來說，我們這個範例所在的 westu...
等待了一個晚上，基本上就 Fine Tune 好了。 部署 Fine Tune 好的模型 我們可以到 Azure ML 的 Models 裡看到已經 Fin...
Retrieval-Augmented Generation (RAG) 是一種結合了檢索技術和生成技術的強大方法，旨在提高大型語言模型（LLM）的回答準確性，...
Cohere Embed v3 Multilingual 是 Cohere 最新且最先進的嵌入模型，提供了多語言支持和高效的文本嵌入功能。維度是 1024 維，...
