机器学习第五章 神经网络1

1
定义 神经网络是由具有适应性的简单单元组成的广泛并行相连的网络，他的组织能够模拟生物神经系统对真实世界物体作出交互反应、

2
神经网络中最基本的成分是神经元模型。
3
sigmoid函数可以把较大范围内的输入值，挤压到0-1的输入值范围内
4
感知机 由两层神经元组成，包括输入层和输出层。输出层是MP神经元。感知机能轻易的实现逻辑与或非运算
MP神经元模型，接收到来自其他N个神经元的传递过来的输入信号，这些输入信号通过带权重的连接进行传递，神经元接收到的总输入值将与神经元的阈值进行比较，然后通过激活函数处理 ，产生神经元的输出。
5
输入层和输出层之间的一层神经元被称为隐层或者隐含层。隐含层和输出层神经元都是拥有激活函数的功能神经元。

常见的神经网络是层级结构，每层神经元与下层神经元全互连，神经之间不存在同层相连，也不存在跨层连接。这样的神经网络称为多层前馈神经网络，输入层神经元接收外来输入，隐层和输出层神经元对信号进行加工，最终结果由输出层神经元输出，换言之，输入层神经元仅是接收输入，不进行函数处理，隐层和输出层包含功能神经元

神经网络的学习过程就是根据训练数据来调整神经元之间的连接权重和每个功能神经元的阈值。
6
误差逆传播，简称BP算法。是迄今为止最成功的的神经网络学习算法。现实使用神经网络时，大多都是在用BP算法进行训练。BP算法不仅可以用于多层前馈神经网络，还可以用于其他类型的网络。