机器学习4---浅谈神经网络

1. 神经元模型    

神经网络是一个多学科交叉的领域，比较常见的定义是：“”神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能模拟生物神经系统对真实世界物体做出的交互反应“”。

神经网络中最基本的成分是神经元模型，典型的为m-p神经元模型，从生物角度可以形象的理解为下图。

从模型角度而言，m-p神经元接收n个输入信号，并通过权重连接形成总输入值，将总输入值与神经元的阈值相比较，然后通过激活函数（activation function）处理以产生神经元的输出。

神经网络就是将多个神经元按照一定的层次结构连接起来。

2. 感知器与多层网络

    感知器由两层神经元组成，即输入层和输出层。单个感知器通过设置连接权重就可以实现“与”，“或“，”非”等线性问题，两层感知器可以解决“异或”问题，中间一层叫做隐含层。具体而言，在感知器学习时，将阈值视为“哑节点”，权重总为-1，即可采用“负反馈”的修正思想统一学习权重：，其中为学习率，控制修正权值的步长。

    虽然单个感知器可以有效解决线性可分问题，但是解决非线性可分问题需要使用多层功能神经元，即拥有激活函数的神经元。更一般的，若每层神经元只与下一层神经元互连，同层或跨层之间没有互连，则可称之为“多层前馈神经网络”（multi-layer feedorward neural networks）。

分享一段单个感知器的代码段，来源：https://blog.csdn.net/xmu_jupiter/article/details/2