今天我們開始來建立了一個基本的對話功能的 Prompt Flow 吧！昨天我們已經建立好了一個 Azure OpenAI 的模型了，接著我們就把這麼 gpt-4o 串接到 Prompt Flow 裡面吧！

1. 我們先要取得 gpt-4o 的 key 和 url ，這樣子才能在 Prompt Flow 裡建立連線。我們去到昨天建立好的 Azure OpenAI 資源裡，點選左邊的 Keys and Endpoint，這樣子就可以取得 key 和 url 了。

2. 接著我們再回到 Azure Machine Learning 的 Studio 裡面，點選左邊選單的 Prompt Flow，然後選 Connenctions 的 tab，再點選 Create ，再點選 Azure OpenAI，如下圖所示。

3. 接著右邊會跳出一個選單，我們要填寫昨天所建立的 Azure OpenAI 的資訊。如下圖所示。

在 Name 欄位中，需要輸入這個連線的名稱。下圖中設定的名稱是 ironman2024。這個名稱是自定義的，建議根據項目的具體需求進行命名。接下來，Provider 欄位選擇 Azure OpenAI，這表示該連線是與 Azure OpenAI 服務進行的。

在 Subscription ID 欄位中，你需要選擇 Azure 訂閱計畫，這裡選用的是 Microsoft Azure Sponsorship，代表這是基於 Azure 服務的訂閱。接著，在 Azure OpenAI Account Names 欄位中，選擇你已在 Azure 配置好的 OpenAI 賬戶名稱，在此範例中選擇的是昨天所建立好的 ironman2024。

在 Auth Mode 欄位中選擇認證模式，這裡選擇的是 API key。這表示通過 API 密鑰進行認證，用於授權 Prompt Flow 連接到 Azure OpenAI 服務。接下來的 API Base 欄位填寫 API 基礎路徑，這個路徑是連接到 Azure OpenAI 資源的具體 URL。在下圖中，該 URL 為 https://ironman2024.openai.azure.com/ ，表示所有 API 都將通過這個 url 。至於 API Type 欄位，則選擇 azure，表示調用的 API 是基於 Azure 的 OpenAI 服務。

在 API Version 欄位中，設定為 2024-06-01。是目前最好的 GA 版本。

設定好了之後，就點選下方的 Save。

4. 接下來我們來建立 Prompt Flow 的本體了。如下圖所示，我們先點選 Flow 的這個 tab，然後點選其下的 Create 後，會跳出一個選單，我們選擇 Chat flow。接著會再跳出個 Folder name 的選項，我們就保持預設的即可。

5. 建立好這個 Prompt Flow 之後，我們就會看到圖形化介面和程式碼了。我們在 Connection 的欄位裡選擇昨天所建立的 Azure OpenAI。如下圖所示

6. 接著我們把該設定的給設定進去，例如 deployment_name 要選昨天我們所建立的 gpt-4o，然後 API 選 chat ，response_format 選擇 text 。剩下的就保持預設即可。接著就可以點右上角的 Start compute session。如下圖所示。這裡會等待上一段時間，因為 Azure 會幫你開一台機器起來跑這個 Prompt Flow。

7. 等待一段時間後，我們就可以開始對話了，如下圖所示。

以上就是 Prompt Flow 的基本入門了！如果還想學習更多 Prompt Flow 相關的使用的話，建議參考拙作《極速 ChatGPT 開發者兵器指南：跨界整合 Prompt Flow、LangChain 與 Semantic Kernel 框架》。購書連結： https://www.tenlong.com.tw/products/9786263338203

剩下兩天，我們來談 Azure AI Studio 和 LLMOps 吧！