AI 的參數怎麼那麼不直觀...

在 Amazon Bedrock 的 Playground 中，除了能設定 Temperature，還能搭配其他的參數去影響模型生成。

Top P

Top P 用在過濾生成內容的「選項」。
當 Top P 值越低，生成時可選擇的內容就會被嚴格限制在機率較高選項內；
反之，Top P 設定值越高，模型的選擇範圍越廣(納入機率比較低的選項)，自然會出現更多難以預料的內容。

換句話說，Top P 就是在限制候選可用字/詞的範圍。

設定區間和 Temperature 同樣是 0-1，不過 Top P 設定的顆粒度更細緻，可以訂到小數點後三位。

實際測試

提示詞：

請寫一個場景在「森林」的奇幻故事

測試說明：

• 選定 0、0.3、0.7、0.999 四個數值進行測試
• 每個數值進行 3 次測試
• 每個數值只選定其中一個結果來做分析
• 完整測試內容會附註在文末連結

另外，考慮到截圖不易閱讀，今天會直接貼上生成內容。
測試截圖就和完整的測試紀錄就一併附在文末的連結中。

生成內容

• Top P = 0

  這是一個奇幻的森林故事：
  
  在一片神秘的古老森林深處，有一棵巨大的魔法橡樹。這棵橡樹是整個森林的守護者，已經存在了上千年。某一天，一個叫小明的男孩迷路了，不小心闖入了這片森林。
  
  當小明走到魔法橡樹前時，樹上突然出現了一張臉！原來是樹精靈蘇菲。蘇菲告訴小明，森林正面臨危機——一群貪婪的伐木工人要來砍伐這片森林。
  
  蘇菲請求小明的幫助，希望他能阻止伐木工人。小明答應了，但他不知道該如何是好。這時，森林裡的動物們都紛紛站了出來。松鼠教他如何爬樹，狐狸教他如何潛行，貓頭鷹教他如何看清黑夜。
  
  在動物朋友們的幫助下，小明成功阻止了伐木工人進入森林。最後，蘇菲送給小明一塊神奇的樹皮，讓他以後能隨時都能回到這片魔法森林來。從此以後，小明成為了森林的朋友，經常回來探望他的動物夥伴們。
  

• Top P = 0.3

  這是一個發生在神秘森林中的奇幻故事:
  
  在一片古老的森林深處,住著一位名叫艾拉的年輕精靈。她擁有與樹木交談的能力,是森林的守護者。
  
  一天,艾拉發現森林裡出現了一個神秘的光球。光球散發著溫暖的光芒,吸引了許多動物圍觀。艾拉好奇地靠近,突然光球爆開,一位身穿銀色長袍的老巫師出現在眼前。
  
  巫師告訴艾拉,一股黑暗力量正在威脅整個森林。他需要艾拉的幫助,找到藏在森林深處的魔法寶石,才能阻止黑暗勢力的入侵。
  
  艾拉決定接受挑戰。她與巫師踏上了冒險之旅,穿越茂密的叢林,渡過湍急的河流,爬上陡峭的懸崖。一路上,他們遇到了會說話的動物、神奇的植物,還有各種奇異的生物。
  
  經過重重考驗,艾拉和巫師終於找到了魔法寶石。他們合力施展法術,驅散了黑暗力量,拯救了整片森林。
  
  從此以後,艾拉不僅是森林的守護者,更成為了一位強大的魔法師。她和巫師一起守護著這片神奇的森林,讓它永遠充滿生機與魔力。
  

• Top P = 0.7

  這是一個發生在神秘森林中的奇幻故事:
  
  在一片古老的森林深處,住著一位名叫艾拉的年輕精靈。她擁有與植物交流的特殊能力,是森林的守護者。
  
  一天,艾拉發現森林中央的生命之樹開始枯萎。這棵巨樹是整個森林的能量源泉,如果它死去,整片森林都會隨之消亡。
  
  艾拉決心要拯救生命之樹。她踏上了尋找解藥的冒險之旅,途中遇到了許多奇妙的生物:會說話的動物、調皮的樹精、神秘的巫師等等。他們有的幫助她,有的則設置障礙考驗她。
  
  經過重重困難,艾拉終於找到了傳說中的月亮泉水。她帶著泉水回到生命之樹前,將泉水澆灌在樹根上。奇蹟發生了,枯萎的樹葉重新變得翠綠,整片森林都恢復了生機。
  
  艾拉成功地拯救了森林,也在這次冒險中成長了許多。從此以後,她更加珍惜森林中的每一個生命,繼續守護著這片神奇的土地。
  

• Top P = 0.999

  這是一個發生在神秘森林中的奇幻故事:
  
  在一片古老的森林深處,住著一個名叫艾拉的小精靈。她有著翠綠色的頭髮和閃閃發光的翅膀,是森林中最調皮的精靈。
  
  一天,艾拉發現森林中的魔法泉水突然乾涸了。這個泉水是整片森林的生命之源,如果它消失了,森林裡的所有生物都會慢慢枯萎。
  
  艾拉決定冒險找出原因。她飛過高大的樹木,穿過茂密的灌木叢,最後來到了一個從未見過的山洞前。
  
  山洞裡住著一隻孤獨的巨龍。原來是牠不小心睡著時,尾巴堵住了泉水的源頭。艾拉鼓起勇氣和巨龍交談,最後說服牠移開尾巴。
  
  泉水重新湧出,森林恢復了生機。巨龍也找到了新朋友,不再孤單。從此以後,艾拉常常去山洞拜訪巨龍,他們成為了最好的朋友。
  
  這個小小的冒險,不僅拯救了森林,還讓艾拉學會了勇氣和友善的重要性。
  

不同設定值的差異分析

不難發現所有的故事主軸都是「拯救森林」，但在角色設定細節、角色、情節和趣味性上卻能明顯看出不同。

• Top P = 0
  故事的主角是「人」，反派是「伐木工人」，雖然提示詞寫的是「奇幻故事」，卻在故事設定上相對貼近現實，情節也比較平淡。
• Top P = 0.3
  開始有冒險元素與角色搭配，故事線變得比較豐富，但還是很常見的套路，也沒有太多細節設定。
• Top P = 0.7
  故事加入更多衝突與角色成長線，內容更有層次 (有得到幫助，也有遇到關卡考驗)，細節設定也更豐富 (生命之樹、月亮泉水)。
• Top P 接近 1 (0.999)
  故事情節幾乎算是出乎意料，不再是常見的 冒險 + 拯救森林，反而出現迷糊的巨龍、友情這類意想不到的設定。對主角的設定描述是所有版本中細節最多的，創造性和趣味性也是所有生成結果中最高。

如果和昨天的 Temperature 對照：
Temperature 拉高 => 控制隨機性 → 結果可能跳太遠，甚至失去主題。
Top P 拉高 => 控制候選範圍 → 結果比較容易出現「驚喜」，但仍會維持一定的故事主題。

Temperature v.s. Top P

雖說都是控制 隨機性 的參數，但方式可大不相同：

• Temperature
  作用：調整「隨機性強弱」
  方式：改變機率分布的「陡峭程度」。
  數值調低：0~0.3 → 分布更集中 → 幾乎只選機率最高的字。
  數值調高：0.7~1.0 → 分布更分散 → 冷門的選項更容易被選中。
• Top P（nucleus sampling）
  作用：限制「候選池大小」
  方式：只從「機率加總達到 P 的前幾個字」裡面隨機挑，P 的數值越大，可挑選的詞彙池越大。
  數值調低：0.5 以下 → 只留最常見的候選詞（非常保守）。
  數值調高：0.9~1.0 → 保留更多可能性（創意更多）。

差異總結

Temperature = 改變「每個字的機率曲線」 → 控制隨機性強弱。
Top P = 改變「候選詞的範圍」 → 控制多樣性範圍。

最後附上完整的測試結果：Day 18. TOP P 測試結果