Sebastian Nowozin 在機(jī)器學(xué)習(xí)夏季課程（MLSS 2018 年 9 月）做了關(guān)于 GAN 的教學(xué)，153 頁 PPT 詳盡的解釋了 GAN 的發(fā)展脈絡(luò)和最新進(jìn)展，此外他所提供原版大小為 286MB 的 pptx 中包含大量動(dòng)畫效果，對(duì)課程的理解很有幫助。

Sebastian Nowozin 是微軟劍橋研究院首席研究院，專注于無監(jiān)督于表示學(xué)習(xí)。他在 GAN 領(lǐng)域做了大量的工作，同時(shí)也是著名的f-GAN的作者。

在訓(xùn)練 GAN 方面似乎有兩三個(gè)陣營(yíng)：第一個(gè)當(dāng)然就是 GAN 的發(fā)明 Ian Goodfellow 以及他所供職的 OpenAI 和谷歌的一幫研究人員；第二個(gè)強(qiáng)大的陣營(yíng)也就是以這篇教程作者 Sebastian Nowozin為代表的微軟陣營(yíng)；第三就是其他了。

此次教程主要有以下幾個(gè)部分：

概率模型

GANs 的幾個(gè)示范應(yīng)用

評(píng)價(jià)原則

GAN 模型

差異性與 f-GAN 家族

基于積分概率度量 (IPM) 的 GAN: MMD

基于積分概率度量 (IPM) 的 GAN: Wasserstein GANs

問題與如何修正：模式崩潰 (modecollapse) 與不穩(wěn)定性（Instability）

隱式模型

開放性研究問題

GAN 網(wǎng)絡(luò)是近兩年深度學(xué)習(xí)領(lǐng)域的新秀，一時(shí)風(fēng)頭無兩。從計(jì)算機(jī)視覺頂會(huì)盛會(huì) CVPR 2018 接受的論文統(tǒng)計(jì)就可見一斑：根據(jù) Google Research 的研究科學(xué)家 Jordi Pont-Tuset 做的一個(gè)統(tǒng)計(jì)，它通過查看這些論文的類型，看到了未來深度學(xué)習(xí)的發(fā)展趨勢(shì)。結(jié)果，他發(fā)現(xiàn)生成對(duì)抗網(wǎng)絡(luò)（GAN）強(qiáng)勢(shì)出擊，大有取代 “深度學(xué)習(xí)”（Deep Learning）之勢(shì)。

下面這張圖展示了 CVPR 2018 的論文題目中，關(guān)鍵詞 GAN、Deep，以及 LSTM 的對(duì)比：

在普通的 “深度學(xué)習(xí)” 走下坡路的同時(shí)，GAN 慢慢的成為新寵，統(tǒng)計(jì)顯示有 8% 的論文標(biāo)題中含有 GAN（這一數(shù)據(jù)相比 2017 年增長(zhǎng)了 2 倍多）。

此外用盡字母表的各種 GAN 的變體 X-GAN 的論文數(shù)量也是急劇增加：

附 PPT 全文：