到目前為止,我已經能讓GPT-2在Colab上成功產生文字。今天要來試試看:透過調整一些參數,能不能改變生成結果的風格。
什麼是temperature?
在生成文字時,模型其實是透過機率來挑選下一個字。
實際操作
我在 Colab 裡輸入這段程式碼,讓GPT-2幫我生成文字,分別設定temperature=0.2和temperature=1.0。
第一次輸入後,發現兩種溫度對我給的prompt The future of AI in medicine is
產生的結果沒有很顯著的差別,推測可能是程式中設定的token數量太少了。
因此將token數量從50改至100後,再次測試。
這麼一來,兩種溫度造成的結果就有很明顯的差異:
第一週主要都在做環境建置和參數嘗試,這些過程雖然比較基礎,但讓我把生成式 AI 是怎麼跑起來的這件事搞清楚了。第二週我會嘗試進行一些生成式AI常見的應用,繼續加油吧!