Generative Adversarial Networks (GAN)

Přehled

Autoencoders
Generator a discriminator
Trénování

Autoencoders

Nejsou GAN, ale jsou jim vcelku blízké. Jejich cílem je zakódovat input do "nějaké" reprezentace. Takový autoencoder má dvě části:

$Φ : R^{n} \to R^{m}$ — encoder
$Ψ : R^{m} \to R^{n}$ — decoder

Hledáme $Φ$ a $Ψ$ tak, aby $Ψ \circ Φ$ byla (skoro) identita. Encoder i decoder se dají implementovat pomocí MLP.

Řekneme, že encoder počítá latent representation vstupu $x$ .

Používá se unsupervised learning — nemáme očekávaný vstup, jen samply. Mám trénovací set $T = {x_{1}, ..., x_{p}}$ , kde $x_{i} \in R^{n}$ . Minimalizujeme reconstruction error:

E = i = 1 \sum p (x_{i} - Ψ (Φ (x_{i})))^{2}

Použití

Komprese: Zmenšení velikosti obrázků velikosti 64x64 pomocí MLP 64-16-64 s aktivační funkcí tanh. Input a output jsou oblasti 8x8 vybrané náhodně.
Snížení dimenzionality: Redukce dimenzionality je zobrazení $R : R^{x} \to R^{y}$ , kde $x > y$ , a platí, že původní sample $x$ lze "zrekonstruovat" z $R (x)$ . Typicky se nepoužívají autoencodery, ale Principal Component Analysis (PCA).
Pretraining: Trénujeme autoencoderový pár $M_{Φ}, M_{Ψ}$ vstupními daty $x_{i}$ bez očekávaný vstupů — unsupervised learning. Autoencoder se snaží vyextrahovat z dat to důležité. Nad $M_{Φ}$ přilepíme $M_{top}$ a tento nový MLP už trénujeme na olabelovaných datech — supervised learning.

Generator a discriminator

Generative adversarial network je unsupervised generative model, který má dvě sítě:

Generator $G : R^{k} \to R^{n}$: Vezme náhodný vstup $z \in R^{k}$ z distribuce $p_{z}$ a vrátí $G (z)$ , které odpovídají pravděpodobnostní distribuci, která nás zajímá (např. se snaží generovat tváře).
Discriminator $D : R^{n} \to [0, 1]$: Počítá pravděpodobnost, že daný vstup $x \in R^{n}$ není výstup z generátoru $G$ (např. pravděpodobnost, že na obrázku je opravdová, existující, v reálném světě žijící, totálně nevygenerovaná osoba).

Trénování

Pro trénování potřebujeme multimnožinu $T : {x_{1}, x_{2}, ..., x_{p}}$ , která obsahuje výstupy, jenž se $G$ snaží napodobit, a $D$ považuje za opravdové.

Pro každý opravdový sample $x_{i}$ potřebujeme náhodný šum $z_{i}$ , máme tedy také multimnožinu $F : {z_{1}, z_{2}, ..., z_{p}}$ z distribuce $p_{z}$ . Při trénování se pak používá error function:

E_{T, F} (G, D) = - \frac{1}{p} i = 1 \sum p (ln (D (x_{i})) + ln (1 - D (G (z_{i}))))

Discriminator se snaží minimalizovat $E$ . Generator se snaží maximalizovat $E$ .

Note

Všimni si, že je to velice podobný binary cross-entropy:

- k = 1 \sum p (d_{k} lo g (y_{k}) + (1 - d_{k}) lo g (1 - y_{k}))

Pokud výstup $d_{k} = 1$ znamená, že vstup je opravdový, pak si představ, že u $d_{k} \cdot D (x_{i})$ by $d_{k} = 1$ a u $(d_{k} - 1) \cdot D (G (z_{i}))$ by $d_{k} = 0$ .

Note	Svým způsobem je generator decodérem a vektory $z$ jsou latentní reprezentace.

Nechť jsou $W_{D}$ váhy $D$ a $W_{G}$ váhy $G$ . V každé iteraci trénování jsou váhy upraveny takto:

Trénuj discriminator $D$ po dobu $k$ kroků ( $k$ je hyperparametr).
1. Vyrob minibatch $T = {x_{1}, ..., x_{m}}$ z $T$ .
2. Vyrob minibatch $F = {z_{1}, ..., z_{m}}$ z distribuce $p_{z}$ .
3. Gradient descend na $W_{D}$ podle $E$ :
  
  $W_{D} := W_{D} - α \cdot \nabla_{W_{D}} E_{T, F} (G, D)$

Trénuj generator $G$ (proveď jednou).

Vyrob minibatch $F = {z_{1}, ..., z_{m}}$ z distribuce $p_{z}$ .

Gradient descend na $W_{G}$ :

W_{G} := W_{G} - α \cdot \nabla_{W_{G}} (\frac{1}{m} i = 1 \sum m ln (1 - D (G (z_{i}))))

Note	Všimni si, že ta error funkce je podobná té první, ale nezapočítává tam chybu discriminatoru na opravdových samplech, a je znegovaná, protože chceme maximalizovat chybu discriminatoru na fake samplech.