推理/生成階段(Inference or Generation Phase)
1.輸入提示(Prompt)
使用者輸入一段文字(或圖片描述)，模型根據訓練知識開始生成。
2.概率預測(Sampling)
模型會計算每個可能的下一個詞(或像素)的機率分布，為了避免生成僵硬或無意義的內容，會用 溫度參數(Temperature)、Top-k 取樣 或 Nucleus Sampling(Top-p)來控制隨機性。
3.逐步生成(Autoregressive Generation/Denoising Process)
1.文字：一個字一個字生成，直到達到結束條件
2.圖片/影音：模型從雜訊開始，逐步「去噪」直到形成清晰影像或影片。
4.輸出結果
模型會產生完整的段落、圖片或影片，有些系統會再加上「後處理」(例如過濾不當內容、修正錯誤)。
iThome鐵人賽
看影片追技術
看更多
