目 录CONTENT
以下是
有监督学习
相关的文章
-
-
-
【终身学习-论文解读】GopGAN: 具有持续学习的梯度正交投影生成对抗网络 持续学习中的生成对抗网络 (GAN) 遭受着灾难性遗忘的困扰。在持续学习中，GAN 往往会忘记前一代的任务，只记住他们刚刚学习的任务。在此文中，作者提出了一种新的条件 GAN (Conditional GAN)，称为梯度正交投影 GAN (GopGAN)，它更新了训练示例表示所跨越的空间的正交子空间中的权重，作者还从数学上证明了它保留关于学习任务的旧知识在学习新任务时。此外，数学上推导了调制梯度的正交投影矩阵，并给出了其用于持续学习的迭代计算算法，使得在学习新任务时无需存储学习任务的训练样例。此外，提出了一种任务相关的潜在向量构造，并将构造的条件潜在向量用作 GopGAN 中生成器的输入，以避免学习任务的正交子空间的消失。在 MNIST、EMNIST、SVHN、CIFAR10 和 ImageNet-200 生成任务上的大量实验表明，所提出的 GopGAN 可以有效地应对灾难性遗忘问题并稳定地保留所学知识。