预备知识:jensen不等式
或者:ELOB(证据下界)+KL散度 相关参考资料:https://www.cnblogs.com/yifdu25/p/8278986.html
KL散度:KL(q||p)表示的是用概率分布p去拟合真实分布q的时候产生的信息损耗。下面q(z) ,p(z|x)可以体会一下。
理解KL(相对熵):https://blog.csdn.net/ericcchen/article/details/72357411
https://blog.csdn.net/Sakura55/article/details/88416521
开始推导
收敛性推导:
推导流程可以学习:https://www.bilibili.com/video/av31906558 (详细推导过程)