iT邦幫忙

2024 iThome 鐵人賽

DAY 8
1

▋Azure聊天機器人實例


https://ithelp.ithome.com.tw/upload/images/20240921/20169058an6RgBGkfR.png
昨天討論到聊天機器人生成回覆需要透過LLM模型來完成,而且這個回覆是必須要遵守RAI道德規範的。今天我們將利用Prompt這個提示技巧,希望機器人的回覆能達到客製化的效果。

Prompt簡介

https://ithelp.ithome.com.tw/upload/images/20240922/20169058LNm6P4I9hW.jpg

使用提示型模型時,使用者要輸入文字提示來與模型進行互動,而模型會使用文字完成對文字提示進行回應。雖然這些模型非常強大,但其行為也會對提示非常敏感。 這可讓提示建構成為開發的重要技能。提示建構可能很困難。在實務上,提示用來設定模型權數以完成所需的工作,但它比較是藝術而不是科學,通常需要體驗和直覺來製作成功的提示。

Prompt是提示的意思,也有人翻譯為詠唱,根據Azure提示工程簡介的介紹,我們可以將Prompt視為一門奠定於科學上的藝術行為,使用者就好比詠唱師,透過對聊天機器人施予詠唱的咒語來提供一定程度的提示,讓聊天機器人接受更清楚的指令,而有一條更明確的路徑能前進,從而回答出更貼近使用者需求的回覆。

Prompt技巧

  1. 設定角色:透過角色的建立,機器人依照特定人設和使用者對話,機器人也可以依照對象不同,提供對應的說話方式。
  2. 給予明確的指令:我們希望機器人幫忙作內容摘要、行程安排還是工具操作說明,下一個清楚明確的指令,機器人能更直接地提供適當的反饋。
  3. 將大目標切成小任務:太龐大的目標,可能因為難度太大、層級太高讓機器人無所適從,試著將原先的大目標拆分成好幾個小任務,讓機器人逐一擊破,最後成功達標。
  4. 善用列點、SOP流程:我們可以請機器人列點或者告訴機器人執行的SOP步驟,這樣的方式,可以幫助機器人產出一些他能做得到的小範圍回饋,而機器人也能以自己產出的回覆作為基礎,再更深入或者延伸回答更多的問題。

▋下回預告


下一篇我們要來實戰演練prompt的技巧,用ChatGPT來試看看prompt前prompt後有什麼差別。

▋參考資料


Adobe Firefly(AI圖片生成)
Azure提示工程簡介

▋後記


記得筆者去年使用GenAI時,初期結果不如預期,因而第一次接觸Prompt,當時覺得這個技巧好厲害,原來跟聊天機器人的溝通也是需要技巧的。求職網站上也開始愈來愈多詠唱師(Prompt engineer)的職缺,而不到一年的時間,prompt已經愈來愈普及了,一般的使用者也能透過簡單的提問技巧,來提高運用聊天機器人的成果,人人都可以成為詠唱大師。


上一篇
Part1: Azure聊天機器人原理-Prompt生成回覆(1)
下一篇
Part1: Azure聊天機器人原理-用ChatGPT來練習Prompt技巧吧!
系列文
從Azure雲端服務架構入門,在本地端結合RAG&LLM打造專屬的聊天機器人。30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言