贝叶斯公式有两个主要的作用:
- 逆概
贝叶斯公式的提出原初是为了解决条件概率的逆概问题。VAE、扩散模型的核心就是利用贝叶斯公式求逆概。第二个关键点是极大似然估计,在极大似然估计中使用的Jensen’s inequality涉及到一个evidence lower bound (ELBO)的概念,其中evidence来自贝叶斯公式。
- 后验概率
先验概率是在没有任何其他信息的情况下,一个样本属于某个类别的概率。后验概率则是在看到样本点后,样本属于某个类别的概率。
萨维奇是将贝叶斯决策用于模式分类的重要人物。通过将概率论与决策理论相结合,为模式分类提供了有效的工具和方法。
未完待续