iT邦幫忙

2025 iThome 鐵人賽

DAY 2
0
AI & Data

認識生成式AI的結構及運作原理系列 第 2

生程式ai生成過程1

  • 分享至 

  • xImage
  •  

要了解生程式ai,我們需要了解過程,而生成式AI的生成過程可以分為「訓練階段」與「推理(生成)階段」,本日先來理解訓練階段
訓練階段

1.資料收集與前處理
收集大量文字、圖片、音樂或程式碼等資料,透過清理與標註,確保資料品質,去除噪音或不合規的內容。

2.模型架構設計
1.文字生成:多使用Transformer架構,其核心是「注意力機制(Attention)」用於理解語境。
2.圖像生成:常用 生成對抗網路(GAN)或擴散模型(Diffusion Models)。

3.目標函數與訓練方式
1.語言模型:透過「下一個詞預測」來學習(即給定一段文字,預測接下來的單字或符號)。
2.圖像/影音模型:透過「逐步去噪」或「生成對抗」方式,讓模型逐漸生成清晰、合理的圖像或影片。

4.優化與調整
使用 反向傳播(Backpropagation)與梯度下降(Gradient Descent)來不斷調整模型參數,在語言模型中,常使用人類回饋強化學習(RLHF, Reinforcement Learning with Human Feedback)進行微調


上一篇
簡單介紹生成式AI
下一篇
生程式ai生成過程2
系列文
認識生成式AI的結構及運作原理5
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言