iT邦幫忙

2025 iThome 鐵人賽

DAY 5
0
生成式 AI

AI 三十天,哎呀每天都很難:OpenAI API 生存指南系列 第 5

# Day 5:模型好任性!調整 temperature 與 max_tokens

  • 分享至 

  • xImage
  •  

前幾天我們已經學會了:申請 API Key、設定環境、做一個簡單的聊天機器人、用 System Prompt 讓 AI 扮演角色

但是你可能會發現,有時候 AI 回答很有創意,有時候卻又太簡短
今天要介紹兩個很重要的參數:temperaturemax_tokens
它們決定了 AI 的「個性」與「話多不多」。

Temperature:控制回答的隨機性

  • 範圍:0 ~ 2(通常設 0 ~ 1.5 就夠了)
  • 數字越小 → 回答越保守、穩定
  • 數字越大 → 回答越有創意、越跳脫

範例

from openai import OpenAI

client = OpenAI(api_key="你的_API_KEY")

response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "請寫一句關於AI的詩"}],
    temperature=0.2 
)

print(response.choices[0].message.content)

https://ithelp.ithome.com.tw/upload/images/20250919/20169376WJe0EcM3HX.png
我們再把temperature調高到1.0看看結果:
https://ithelp.ithome.com.tw/upload/images/20250919/20169376XekhyY6wiB.png
看起來有比較有創意?

再來介紹 max tokens
max_tokens就是在控制AI回答的字數長度。設太小的話回答會被截斷,設大一點回答會更完整,但也會多花費 token

from openai import OpenAI

client = OpenAI(api_key="你的_API_KEY")
response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[
        {"role": "system", "content": "你是一位說話很浮誇的導遊"},
        {"role": "user", "content": "介紹一下台中"}
    ],
    temperature=1.2,   # 調整創意
    max_tokens=100     # 限制回覆長度
)
print("導遊:", response.choices[0].message.content)

https://ithelp.ithome.com.tw/upload/images/20250919/20169376poN0PJP2N5.png
可以看到AI回復的字數不會超過你設定的max_tokens。

今天我們學會了兩個超實用的參數:
temperature:調整 AI 的個性(穩定 vs.有創意)
max_tokens:控制回答長短
明天繼續教學,讓你越來越熟悉!


上一篇
Day 4:System Prompt 讓 AI 變身達人
下一篇
# Day 6:對話斷了?多輪對話上下文處理技巧
系列文
AI 三十天,哎呀每天都很難:OpenAI API 生存指南10
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言