万博登录入口主页_万博ManBetX登录注册入口

RPX速递：生成对立网络的有用动力学

时间：2024-03-29 13:21:03   作者: 隧道照明方案

  生成对立网络（GAN）是一类包括生成器（generator）和判别器（discriminator）的机器学习模型，它经过两个神经网络间的对立练习，使生成器学习发生具有与练习样本相同（或许很杂乱）计算的新样本。一种首要的练习失利类型称为形式崩塌（mode collapse），其间生成器无法重现方针概率散布中的形式的悉数多样性（diversity）。虽然在GAN方面已经有了很多作业，但形式崩塌的终究的原因还没有正真取得很好的了解。

  图1：种子空间中的输入矢量（左下）怎么映射到数据空间中的粒子（等效GAN模型）的示意图

  在本文中，作者提出了一个GAN练习动力学的简化模型，使咱们得以研讨形式崩塌发生的条件。该模型将生成器神经网络替换为输出空间中的粒子调集。这种“生成器粒子”的动力学由受判别器调理的与练习数据的相互作用和受生成器调理的粒子-粒子相互作用一起操控。该模型提醒了由练习速率和相对粒子-粒子耦合强度的比率操控的形式崩塌改变。

  该模型还让作者得以研讨正则化（对学习动力学引进额定的束缚）对防止形式崩塌的影响。作者发现具有中等强度的根据梯度的正则器（regularizer）可以终究靠生成器动力学的临界阻尼来最优地发生收敛。因而，本文的有用GAN模型为了解和改善对立性练习供给了一个通用且可解释的物理结构。

  本文为汹涌号作者或组织在汹涌新闻上传并发布，仅代表该作者或组织观念，不代表汹涌新闻的观念或态度，汹涌新闻仅供给信息发布渠道。请求汹涌号请用电脑拜访。