DAY18-OpenAI Playground 功能寶典

2023 iThome 鐵人賽

DAY 18

AI & Data

15th鐵人賽

532 瀏覽

工欲善其事必先利其器，今天我們要來了解Playground裡提供的服務。
昨天我們已經介紹過如何進入playground啦~
今天貼心如我給大家提供了連結，可以直接點連結進入playground。
https://platform.openai.com/playground

還記得昨天我們提到常用的兩個模式嗎
我們今天就用以這兩個模式為主
和大家介紹一下要如何使用playground

chat 顧名思義就是用來模擬聊天機器的，我們可以透過GPT模型來訓練對話。
首先，我們對話輸入可以分成，user、assistant。

使用方法就像是我們平常用ChatGPT，直接輸入提示，他就會產生出相對的回應。

像是提供模型的上下文，如果模型提供的回應不合我們的心意，我們可以藉由這個身分引導他回答問題。

除了這兩個主要對話功能，還記得我們之前說要給模型一個身分，讓他生成我們想要的回答。(DAY9)

這裡就是提供他身份的地方啦!

接下來就利用system和assistant來讓模型當一隻貓貓。
可以看到訓練前，他的回答非常沒有人情味。

但是我硬是把他的回應改成了小貓叫
繼續問他下一個問題，他就變成一隻可愛的小貓了(?

真的非常有趣，大家有興趣也可以去試試看

這個功能主要就是做跟整篇文章有關係的了，不太需要上下文的關聯。
只需要告訴他訴求，例如:幫我想一個XX文案、幫我做文章總結、幫我寫一封mail之類的。

接下來我統一介紹一下右邊工具欄的功能，右側工具蘭主要就是在調整我們模型生成時的參數。

Mode
這個部分就是我們前面提到的模式，裡面除了chat和complete還有edit及insert(legacy版本中沒有)。

(圖片來源我自己)

Model
提供許多不同模型
(1)ada:最便宜，速度最快，是用簡單文本處理，解析、分類等等。
(2)babbage:比ada稍微貴一點，可以處力更加複雜的任務，分類、搜索等。
(3)curie:官方稱「和davinci一樣厲害且更便宜的模型」，此模型較擅長文字類任務，寫文案、翻譯、總結等。
(4)davinci:GPT-3系列最強也最貴的模型。適合有因果關係、複雜意圖、創意創新等情境下使用。
Temperature
前面實作有提到(DAY10)，用來控制模型生成結果的隨機性，界於0-2之間。越靠近0生成結果越接近事實，也越穩定。若是要做問答機器人(FAQ)最好將參數調為0。
Maximum length
單次生成內容最大長度。
Stop sequences
設置停止生成文本的特定字串符號序列。
Top P
控制模型生成文本的多樣性和確定性，值越高回復越多樣化。和Temperature功能相似，不過top p 會受tokens影響。
Frequency penalty
控制句子中詞語重複出現的次數。
Presence penalty
控制文本生成時應避免使用的特定單詞。用來敏感話題或特定場景的文本。
Best of
設置一次生出多個文本，將最優秀的文本輸出。
Inject start text
自定義開頭，會影響模型生成的結果。
Inject restart text
自定義插入文本，會影響模型後續生成。
Show probabilities
查看每個單詞生成概率。