第十九章 近似推断 Approximate Inference
2020-4-13 深度学习笔记19 - 近似推断 1 (把推断视作优化问题-证据下界,期望最大化EM-最大化下界 )
2020-4-14 深度学习笔记19 - 近似推断 2 (最大后验推断MAP和稀疏编码 )
2020-4-15 深度学习笔记19 - 近似推断 3 (变分推断和变分学习-离散型/连续型变量,变分法,学习和推断之间的相互作用)
学成近似推断 Learned Approximate Inference
推断可以被视作一个增加函数 L L L值的优化过程。
显式地通过迭代方法(比如不动点方程或者基于梯度的优化算法)来进行优化的过程通常是代价很高且耗时巨大的。 通过学习一个近似推断,许多推断算法避免了这种代价。
我们可以将优化过程视作将一个输入 v v v投影到一个近似分布 q ∗ = arg max