本文介绍了生成模型的评价框架Divergence Frontiers，通过解决质量与多样性权衡问题，提供了一种新的量化工具。研究分析了样本复杂度，并引入了Frontier Integral作为统计摘要，探讨了Good-Turing和平滑估计器在克服质量缺失问题上的作用。实验证实在图像和文本生成任务中，平滑分布估计器表现出更好的性能。
点击蓝字
关注我们
AI TIME欢迎每一位AI爱好者的加入！
深度生成模型的巨大成功需要量化工具来衡量它们的统计性能。Divergence frontiers 最近被提议作为生成模型的评估框架，因为它们能够衡量深度生成模型固有的质量与多样性权衡。
我们对divergence frontiers的样本复杂度做出了非渐进的分析。我们还引入了frontier integral，它提供了divergence frontier的 summary statistic。
我们展示了诸如 Good-Turing 或 Krichevsky-Trofimov 之类的平滑估计器如何克服质量缺失问题，从而拥有更快的收敛速度。我们用自然语言处理和计算机视觉的数据来验证我们的理论结果。
本期AI TIME PhD直播间，我们邀请到美国华盛顿大学博士生——刘浪，为我们带来报告分享《生成模型的评价与诊断》。
刘浪：
美国华盛顿大学统计博士在读，主要研究方向是最优传输距离和信息散度在生成模型和统计推断中的应用。
Image and Text Generation
在生成模型之中，有两个比较常见的失败情况。一种是生成的数据High quality but low variety，即每一张生成的人脸都非常像真正的人，但是互相之间又非常相似。另一种情况是Low quality but high variety，即看每一张图片可能不会感觉有多逼真，但是却能组成一个diverse的数据集。
Type I and Type II Costs in Generative Modeling
为了描述这两种失败情况，我们引入了两类损失。
其中，上图中的左图，蓝色区域表示真实数据的分布，橙色椭圆表示的是生成数据的分布。对于每一个生成的数据点，如果它不在真实数据分布上，就
最低0.47元/天 解锁文章
扫一扫
73
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
