2020-4-16 深度学习笔记19 - 近似推断 4 (学成近似推断)

第十九章 近似推断 Approximate Inference

中文
英文

2020-4-13 深度学习笔记19 - 近似推断 1 (把推断视作优化问题-证据下界，期望最大化EM-最大化下界 )
2020-4-14 深度学习笔记19 - 近似推断 2 (最大后验推断MAP和稀疏编码 )
2020-4-15 深度学习笔记19 - 近似推断 3 (变分推断和变分学习-离散型/连续型变量，变分法,学习和推断之间的相互作用)

学成近似推断 Learned Approximate Inference

推断可以被视作一个增加函数$L$值的优化过程。
显式地通过迭代方法（比如不动点方程或者基于梯度的优化算法）来进行优化的过程通常是代价很高且耗时巨大的。 通过学习一个近似推断，许多推断算法避免了这种代价。

我们可以将优化过程视作将一个输入$v$投影到一个近似分布 q ∗ = arg ⁡ max