贝叶斯神经网络(系列)：第二篇

本文为 AI 研习社编译的技术博客，原标题 ：

Bayesian Neural Network Series Post 2: Background Knowledge

作者 | Kumar Shridhar

翻译 | 微白o         

校对 | 酱番梨        审核 | 约翰逊·李加薪       整理 | 立鱼王

原文链接：

https://medium.com/neuralspace/bayesian-neural-network-series-post-2-background-knowledge-fdec6ac62d43

这是贝叶斯卷积网络系列八篇中的第二篇文章。

如需查看第一篇文章，请点击：贝叶斯神经网络(系列)第一篇

让我们将贝叶斯神经网络分解成贝叶斯和神经网络来开始。

贝叶斯推断是概率论和统计学机器学习中的重要组成部分。 它是基于由著名统计学家托马斯贝叶斯给出的贝叶斯定理。 在贝叶斯推断中，随着更多证据或信息的出现，假设概率得到更新。

另一方面，神经网络可以被认为是模仿人类大脑的端到端系统或一组算法（不是每个人都相信，但它是基础），并试图在数据集中学习复杂的表示来输出结果。

  神经网络

神经网络上已有非常好的教程。 我会试着简要介绍一下神经网络与大脑的类比，并着重解释我们以后要研究的概率论机器学习部分。

大脑的类比

感知器是由著名心理学家罗森布拉特（Rosenblatt）设想的描述神经元如何在我们的大脑中发挥作用的数学模型。 根据罗森布拉特的说法，神经元采用一组二进制输入（附近的神经元），将每个输入乘以连续值权重（每个附近神经元的突触强度），并且如果 sum足够大，则将这些加权输入的总和阈值输出为1，否则为0（同理神经元要么有效，要么无效）。

 生物激励神经网络（源地址：http://cs231n.github.io/neural-networks-1/）

人工神经网络

受到生物神经系统的启发，人工神经网络（ANN）的结构被设计成像人脑一样处理信息。 大量深度互连的处理单元（神经元）协同工作使神经网络能够解决复杂的问题。 就像人类通过实例学习一样，神经网络也是如此。 在生物系统中学习涉及对突触连接的调整，其类似于神经网络中的权重更新。

神经网络由三层组成：输入层为模型提供数据，隐藏层学习如何表示，输出层输出结果或预测。 神经网络可以被认为是一种端到端的系统，其可以在非常复杂的、不能由人教给机器的数据中找到一种特有的模式。