iT邦幫忙

2023 iThome 鐵人賽

DAY 21
0
自我挑戰組

Autoencoder與GAN:生成與重建的完美結合系列 第 21

[DAY21]生成對抗網路(GAN)簡介

  • 分享至 

  • xImage
  •  

前言

前面幾天我們介紹的Autoencoder以及相關變體並實作出來,而今天我們要進入我們第二個主題—生成對抗網路(GAN),而之後也會分享相關變體的介紹與實作,那我們廢話不多說,正文開始!

正文

什麼是生成對抗網路?

GAN(Generative Adversarial Network,生成對抗網絡)是一種深度學習模型,由Ian Goodfellow和他的同事於2014年提出,並快速的發展,以下是每年新出現的GAN數量

https://ithelp.ithome.com.tw/upload/images/20230930/20161913BR9ztb8wZy.png

圖源:gan zoo

架構

與Autoencoder不同,GAN的核心思想是由兩個互相競爭的神經網絡組成,分別是生成器判別器,接下來就分別介紹這兩個是甚麼吧!

  1. 生成器(Generator):生成器的目標是生成與真實數據相似的合成數據。它接受noise或其他輸入,然後通過多層神經網路生成數據。生成器的目標是使其生成的數據看起來越真實越好。
  2. 判別器(Discriminator):判別器的目標是區分真實數據和生成器生成的合成數據。它也是一個多層神經網路。判別器的目標則是努力分辨出誰是真是假。

生成器與判別器的關係就好比偽造畫的藝術家以及鑑定人員,藝術家必須想辦法讓偽造的作品越逼真越好,而鑑定人員則需要想辦法分辨出哪個是偽造的。

以下是GAN的流程圖

https://ithelp.ithome.com.tw/upload/images/20230930/20161913F99bGUZKML.png

圖源:github

一開始生成器完全不懂,所以先使用隨機的噪聲生成圖片,在讓判別器進行辨識始,而判別器也會表現得不太好,因為它還不知道如何區分真實和假的數據。

訓練方式為兩者輪流訓練,如當生成器在訓練時,判別器就暫停訓練,單純輸出結果

經過幾輪訓練後,生成器會生出更逼真的假貨,而判別器則會提升辨識的能力,雙方都會為了勝過對方而不斷進步

損失函數

GAN的目標是最小化生成器和判別器之間的差異。生成器的損失是它生成的數據被判別器誤認為是假數據的概率,而判別器的損失則是其對真實和假數據的分辨能力。這兩個損失相互競爭,稱為對抗損失。

反向傳播

生成器和判別器通過反向傳播算法進行參數更新,以最小化各自的損失。生成器努力生成更逼真的數據,而判別器努力提高分辨真假的能力。

除了基本的生成對抗網絡(GAN),還有許多變種和改進版本的GAN,每個都有不同的架構和目的,詳情可以去看Github的gan zoo,裡面有各式各樣的GAN

以下是一些常見的GAN變種:

  1. onditional GANs (cGANs):在傳統的GAN中,生成器只是生成數據,而在條件GAN中,生成器和判別器都接受附加信息,稱為條件,以控制生成的內容。這種GAN的一個應用是生成特定風格的圖像。
  2. Deep Convolutional GANs (DCGANs):DCGANs使用卷積神經網絡(CNN)作為生成器和判別器的組件,特別適用於圖像生成任務。它們通常能夠生成更逼真的圖像。
  3. CycleGANs:CycleGANs用於圖像風格轉換,可以將一種類型的圖像轉換為另一種,例如將馬轉換為斑馬,而無需成對的訓練數據。
  4. Wasserstein GANs (WGANs):WGANs引入了Wasserstein距離作為損失函數,有助於解決傳統GAN中的許多問題,如模式崩潰和訓練不穩定性。
  5. Progressive GANs:Progressive GANs通過逐步增加生成器和判別器的分辨率,以生成高分辨率圖像。它們可以生成非常逼真的圖像,包括逼真的人臉。
  6. StyleGANs:StyleGANs是用於生成逼真人臉的變種,它們控制圖像的風格和細節,以生成高度逼真的人像。

總結

以上就是今天稍微介紹GAN的內容啦,明天將會分享GAN的Autoencoder的關聯性與差異性,那我們明天見!


上一篇
[DAY20]Autoencoder的模型優化
下一篇
[DAY22]Autoencoder和GAN的差異與聯繫
系列文
Autoencoder與GAN:生成與重建的完美結合30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言