概率神经网络_PR Ⅳ: 贝叶斯神经网络 Bayesian Neural Network

Probabilistic in Robotics Ⅳ: Bayesian Neural Network

贝叶斯方法后来也搭上了Deep learning的顺风车，摇身一变成了Bayesian Neural Network(BNN)。

注意：这叫做贝叶斯神经网络，不是贝叶斯图网络

之前一直在介绍贝叶斯方法的思想，但是没有介绍怎么求解。在第二章Bayesian Inference已经写过主要的求解方式有两种：

• 基于采样的马尔可夫链蒙特卡罗(Markov Chain Monte Carlo，简称MCMC)方法
• 基于近似的变分推断(Variational Inference，简称VI)方法

这两个还是放在后面，链接之后会放出。先介绍变分推断的特例，贝叶斯神经网络。

结构

左图是普通的全连接(deterministic)神经网络，右图是贝叶斯(probabilistic)神经网络。