iT邦幫忙

2025 iThome 鐵人賽

DAY 8
0
生成式 AI

「打造專屬小幫手:生成式 AI 的從零到一實戰」系列 第 8

加入參數與控制(溫度、Top-p 等)

  • 分享至 

  • xImage
  •  

昨天我們做了一個文字總結器,但可能就會延伸出以下問題:有時候 AI 的回答很制式,有時候又很有創意,這到底怎麼控制?其實關鍵就在於參數。

最常見的兩個是 Temperature(溫度) 和 Top-p(取樣)。

Temperature:數值越低,AI 越保守、越精準;數值越高,回答會更有創意甚至天馬行空。
舉例來說,temperature=0 相對適合寫程式或做考題,因為答案要穩定。而 temperature=1 就比較像腦力激盪,可能會冒出一些意想不到的點子。

Top-p:它是一種控制「隨機性」的方式。假設 AI 腦中有一堆候選字詞,Top-p=0.9 就代表只考慮「機率總和到 90% 的詞」,剩下太冷門的選項就不會被選。這樣能確保回答有點變化,但又不會太亂。

在程式裡加上這些參數很簡單,例如:

response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": "幫我寫一首詩"}],
temperature=0.8,
top_p=0.9
)

調整這些數值,就像幫 AI 換個人格。有時候你需要它冷靜、有邏輯;有時候又希望它瘋一點、有創造力。

所以我們不仿大膽的嘗試,找到適合你應用場景的參數組合,AI 才會真的變成你的「專屬小幫手」。


上一篇
設計你的第一個小幫手功能(文字總結器)
下一篇
讓小幫手記憶:基本上下文管理
系列文
「打造專屬小幫手:生成式 AI 的從零到一實戰」10
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言