生成对抗网络中判别器在二分类游戏上表现了强大的区分能力，RSGAN使用相对判别器将真假样本混合利用 “图灵测试”的思想削弱了判别器的能力，T-GANs将RSGAN一般化到其它GAN模型下，判别器得到限制在整体上平衡了生成器和判别器， 可以使GAN训练上更加稳定。VDB通过对判别器加上互信息瓶颈限制判别器的能力。

诗歌讲究句式、格调、语言含义等一系列规则，一首好的诗歌会给人以强烈的画面感，在视觉和心灵上引发读者的共鸣。让机器去创造诗歌，这可能会令很多文人嗤之以鼻， 他们肯定会认为让一个没有任何感情的机器如何去创作诗歌。话虽如此，但是机器的一个最大的优势就是知识量渊博，茫茫的诗歌库对于机器可能只要几天就能掌握， 书到用时方恨少，现在已经掌握了庞大数量的书去创造诗歌，结果如何呢？

利用GAN做实验的学者一定为其训练不稳定感到痛苦，如何去控制超参数，如何去平衡判别器和生成器间的迭代都是操碎了心。尽管WGAN、 LSGAN对于GAN的梯度消失做了解释和改进，但是在实际的训练中模型的不稳定一直存在。SNGAN 可以有效的约束判别器的能力，但是随着生成精度的增加，仍然不可避免训练的不稳定。T-GANs是苏剑林， 苏大哥的一篇基于RSGAN的基础上对相对判别器做一般化的改进，文章现已挂在Arxiv， 文章出现较多的数学公式，笔者尽量用简洁的话语阐述清文章的观点。

GAN自诞生到现在一直面临着模型训练不稳定的问题，尽管已经有很多方法在极力控制着GAN训练的稳定，但是都没有从根本上解决这个问题。 实验中的Trick，损失函数的变换，正则化的引入等等都是解决GAN训练不稳定的方法，SN-GAN利用谱归一化的方法， 使得GAN满足Lipschitz假设，从而让模型更加稳定。

GAN自2014年提出到现在已经有4年了，这4年来非常多围绕GAN的论文相继诞生，其中在改进GAN损失函数上的论文就有好多篇， 今天我们一起来梳理一下知名的在GAN的损失函数上改进的Loss函数，并在tensorflow上进行汇总实现。