什么是GAN 

生成式对抗网络（GAN, Generative Adversarial Networks ）是一种深度学习模型，是近年来复杂分布上无监督学习最具前景的方法之一。

GAN由两个部分组成，一个是生成模型（Generative Model），一个是判别模型（Discriminative Model），通过他们俩互相博弈学习产生的输出。G 和 D 不一定都是神经网络，只要能拟合相应的生成判别函数就行。但是实际上一般都使用深度神经网络。

简单的说呢，生成模型要生成出假的样本，让假的样本尽量接近真实数据，然后将真假数据输入到判别模型中，让判别模型分辨不出真假数据。对于给定数据的预测为真的概率基本接近 0.5，就表示判别模型现在已经分辨不出真假数据了。

直观的算法流程

图a,b,c,d. 黑色的点状线代表M所产生的一些数据，绿色的线代表我们自己模拟的分布G，蓝色的线代表着分类模型D。

a图表示初始状态，b图表示，保持G不动，优化D，直到分类的准确率最高。

c图表示保持D不动，优化G，直到混淆程度最高。d图表示，多次迭代后，终于使得G能够完全你和M产生的数据，从而认为，G就是M。

生成式对抗网络的优化是一个二元极小极大博弈（minimax two-player game）问题，它的目的是使生成模型的输出再输入给判别模型时，判别模型很难判断是真实数据还是虚假数据。

极大极小值算法

MiniMax算法(极大极小值算法)是一种找出失败的最大可能性中的最小值的算法(即最小化对手的最大得益)，该算法通常是通过递归的形式来实现的；MiniMax算法常用于棋类等两方较量的游戏或者程序中。

该算法是一个零总和算法，即一方要在可选的选项中选择将其优势最大化的选择，另一方则选择令对手优势最小化的一个，其输赢的总和为0（有点像能量守恒，就像本身两个玩家都有1点，最后输家要将他的1点给赢家，但整体上还是总共有2点）。

由于是递归的操作，所以层次深度会非常深，那么可能使用神经网络优化

判别模型的损失函数

当输入的是从数据集中取出的real Iamge 数据时，我们只需要考虑第二部分，D(x)为判别模型的输出，表示输入x为real 数据的概率，我们的目的是让判别模型的输出D（x）的输出尽量靠近1。

当输入的为fake数据时，我们只计算第一部分，G（z）是生成模型的输出，输出的是一张FakeImage。我们要做的是让D(G(z))的输出尽可能趋向于0。这样才能表示判别模型是有区分力的。

相对判别模型来说，这个损失函数其实就是交叉熵损失函数。计算loss，进行梯度反传。这里的梯度反传可以使用任何一种梯度修正的方法。 当更新完判别模型的参数后，我们再去更新生成模型的参数。

生成模型的损失函数

对于生成模型来说，我们要做的是让G（z）产生的数据尽可能的和数据集中的数据一样。就是所谓的同样的数据分布。那么我们要做的就是最小化生成模型的误差，即只将由G（z）产生的误差传给生成模型。

但是针对判别模型的预测结果，要对梯度变化的方向进行改变。当判别模型认为G（z）输出为真实数据集的时候和认为输出为噪声数据的时候，梯度更新方向要进行改变。

其中 表示判别模型的预测类别，对预测概率取整，为0或者1。用于更改梯度方向，阈值可以自己设置，或者正常的话就是0.5。

整体目标函数

在我们的函数V(D,G)中，第一项是来自实际分布（pdata（x））的数据通过鉴别器（也称为最佳情况）的熵（Entropy）。鉴别器试图将其最大化为1。第二项是来自随机输入（p（z））的数据通过发生器的熵。生成器产生一个假样本， 通过鉴别器识别虚假（也称为最坏的情况）。在这一项中，鉴别器尝试将其最大化为0（即生成的数据是伪造的的概率的对数是0）。所以总体而言，鉴别器正在尝试最大化函数V(D,G)。

另一方面，生成器的任务完全相反，它试图最小化函数V(D,G)，使真实数据和假数据之间的区别最小化。这就是说，生成器和鉴别器像在玩猫和老鼠的游戏。

下图是论文中的算法流程：

GAN训练细节

第1步：定义问题。你想生成假的图像还是文字？你需要完全定义问题并收集数据。

第2步：定义GAN的架构。GAN看起来是怎么样的，生成器和鉴别器应该是多层感知器还是卷积神经网络？这一步取决于你要解决的问题。

第3步：用真实数据训练鉴别器N个epoch。训练鉴别器正确预测真实数据为真。这里N可以设置为1到无穷大之间的任意自然数。

第4步：用生成器产生假的输入数据，用来训练鉴别器。训练鉴别器正确预测假的数据为假。

第5步：用鉴别器的出入训练生成器。当鉴别器被训练后，将其预测值作为标记来训练生成器。训练生成器来迷惑鉴别器。

第6步：重复第3到第5步多个epoch

第7步：手动检查假数据是否合理。如果看起来合适就停止训练，否则回到第3步。这是一个手动任务，手动评估数据是检查其假冒程度的最佳方式。当这个步骤结束时，就可以评估GAN是否表现良好。