Abstract. 我们尝试将 domain adaptation 应用到 GAN 中。我们评估了域自适应的几个方面，包括目标域大小的影响，源与目标域之间的相对距离，以及条件 GAN 的初始化。我们的结果表明，使用来自预训练网络的知识可以缩短收敛时间，并可以显著提高生成图像的质量，特别是在目标数据有限的情况下。我们表明，这些结论也可以得出条件 GAN ，即使预先训练的模型是没有条件的训练。我们的结果还表明，density 比 diversity 更重要，拥有一个或几个密集采样类的数据集是一个更好的源模型，而不是像 ImageNet 或 Places 这样更多样化的数据集。

Keywords: Generative adversarial networks, transfer learning, domain adaptation, image generation

1 Introduction

当使用预训练好的初始化网络时，可以用更少的图像来训练。

• 我们评估了几种 transfer 配置，并表明预先训练的网络可以有效地加速学习过程，并在数据有限的情况下提供有用的先验知识。
• 我们研究了源域和目标域之间的关系如何影响结果，并讨论了选择一个合适的预训练模型的问题，且看起来在判别任务的情况下更难进行选择。
• 我们评估了从无条件 GANs transfer 到有条件 GANs 的两种常见方法。

2 Related Work

Transfer learning/domain transfer: 对于训练数据有限或收敛速度慢的许多应用来说，通过微调预训练网络进行域自适应已成为默认方法[9,33]。

GAN:

cGAN:

3 Generative Adversarial Networks

3.1 Loss functions

这里是重述了一下 GAN 和 WGAN-GP 的损失函数。关于 WGAN 的介绍可以看这里。

3.2 Evaluation Metrics

使用了 FID 和 IW 来对 GAN 模型进行评估。

4 Transferring GAN representations

4.1 GAN adaptation

为了研究 domain transfer 对 GANs 的影响，我们将使用 WGAN-GP[15] 架构，该架构在生成器和鉴别器中都使用 ResNet。该生成器由一个全连接层、四个残差块和一个卷积层组成，鉴别器具有相同的设置。同样的架构也用于条件 GAN。