【笔记】CSE 599 Generative Models （一）生成模型

Resource

UW course: https://courses.cs.washington.edu/courses/cse599i/20au/

CSE 599, Autumn 2020  Generative Models

Instructor:  John Thickstun

Intro

本课程探索各种现代技术，以学习通过示例给出未知概率分布的样本的方法。生成模型是研究的活跃领域：我们在本课程中讨论的大多数技术都是在最近10年中开发的。本课程与当前的研究文献紧密结合，将提供阅读该领域最新发展论文所需的背景。讲座将着重于生成模型技术的理论和数学基础。家庭作业将包括分析和计算练习的混合。该课程项目旨在提供一个机会，将这些思想应用于您自己的研究，或者更深入地研究课程中讨论的主题之一。

先修要求： 机器学习

Outline

• Autoregressive Models 自回归模型

  • The NADE Framework

  • RNN/LSTM and Transformers

• Variational Autoencoders 变分自编码器

  • The Gaussian VAE

  • ConvNets and ResNets

  • Posterior Collapse

  • Discrete VAEs