昨天我們做了一個文字總結器,但可能就會延伸出以下問題:有時候 AI 的回答很制式,有時候又很有創意,這到底怎麼控制?其實關鍵就在於參數。
最常見的兩個是 Temperature(溫度) 和 Top-p(取樣)。
Temperature:數值越低,AI 越保守、越精準;數值越高,回答會更有創意甚至天馬行空。
舉例來說,temperature=0 相對適合寫程式或做考題,因為答案要穩定。而 temperature=1 就比較像腦力激盪,可能會冒出一些意想不到的點子。
Top-p:它是一種控制「隨機性」的方式。假設 AI 腦中有一堆候選字詞,Top-p=0.9 就代表只考慮「機率總和到 90% 的詞」,剩下太冷門的選項就不會被選。這樣能確保回答有點變化,但又不會太亂。
在程式裡加上這些參數很簡單,例如:
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": "幫我寫一首詩"}],
temperature=0.8,
top_p=0.9
)
調整這些數值,就像幫 AI 換個人格。有時候你需要它冷靜、有邏輯;有時候又希望它瘋一點、有創造力。
所以我們不仿大膽的嘗試,找到適合你應用場景的參數組合,AI 才會真的變成你的「專屬小幫手」。