青源 LIVE 预告 | 北大王一飞：高效 GAN 采样算法 （ECML 最佳论文解读）

近期北京大学林宙辰教授所带领的 ZERO 实验室获得了 ECML-PKDD 机器学习方向最佳论文奖（因为一作是学生，同时也是最佳学生论文。）

论文标题：

Reparameterized Sampling for Generative Adversarial Networks

论文链接：

https://2021.ecmlpkdd.org/wp-content/uploads/2021/07/sub_600.pdf

ECML-PKDD，全称为 The European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases，是欧洲顶级的机器学习与数据挖掘会议。因为疫情原因，今年于9月13到17日在线上进行。

这篇文章从重参数化采样的角度，提出了一个通用、高效的GAN采样框架，它利用GAN本身的结构信息，将一个复杂的问题（高维采样）转化为一个简单的问题（低维采样），把一个不可解的问题（一般的相关采样）转化为一个可解的问题（重参数化采样），同时实现了高效（相关采样）、准确（MH检验）的目标。

在之前对林宙辰教授的采访中，林教授曾对其实验室的研究模式表述如下：

我们基本上还是优先从方法论上取得突破，然后在计算机视觉任务上开展实验。从理论出发分析问题，我们可以很清晰地找出某些方法的局限性，或发现推导过程中的关键问题，从而让学生重点攻克一些值得研究的难点。这样做出的研究成果适用范围也更加广泛。

这篇文章的工作鲜明地体现了这种「理论出发分析问题」的研究模式。

智源社区特邀请了论文作者王一飞（博士生）来介绍其工作内容。

---

王一飞，北京大学数学学院三年级博士生，目前在林宙辰老师所领导的ZERO实验室（https://zero-lab-pku.github.io）开展机器学习算法的研究，主要研究课题为概率推断、自监督学习与对抗机器学习。最近研究成果详见个人主页https://yifeiwang77.github.io

主题：基于隐式重参数化MCMC的高效GAN采样算法

时间：2021年10月13日（周三）19:00～20:00

形式：线上

入会方式：

腾讯会议 - ID：918 757 686

直播地址一：

https://event.baai.ac.cn/activities/170

直播地址二：

https://live.bilibili.com/21484823

报告简介：

本次报告将介绍我们获得ECML-PKDD 2021最佳机器学习论文的工作Reparameterized Sampling for Generative Adversarial Networks。

本文利用了生成器所建模的结构信息，为GAN设计了一种通用且高效的MCMC采样算法，称之为REP-GAN。它通过将高维样本空间的转移（transition）重参数化为低维隐层空间的转移，突破了原有独立采样的限制，又同时克服了高维空间采样的困难，提高了样本效率。同时，我们还证明了对于一般的隐层采样，它所对应的MH比率存在闭形式解，使其可以通过MH检验来保证算法的收敛性。实验上，与以前方法相比，我们发现REP-GAN可以显著提高样本效率，并同时改善了样本质量。

本次报告中，我们会由浅入深地介绍相关课题的研究背景及我们采取的技术路线，欢迎对生成模型、近似推断、高维采样等问题感兴趣的同学参与交流讨论。

---

扫描下面二维码报名活动

了解更多信息请加入「机器学习」交流群