神经网络

单层感知器

我们先简单的来看这个图，是一个典型的单个生物神经元结构的示意图。每个神经元除了包括细胞核和细胞体之外，一般还包括树枝状的树突和较长的一条轴突。树突和轴突都与其他神经元相连接，连接形成的位置叫做突触。树突是神经元的输入部分，也就是接受信号。轴突是神经元的输出部分，也就是输出信号。不同神经元之间通过突触相互连接，形成了生物神经网络。（这是一个神经元由许多树突和一个轴突组成，在树突上会有许多信号，这些信号会遇到电阻大的 进入到细胞核后信号可能就衰减的差不多了。）

看这幅图 圆圈中是一个神经元。与生物神经元的树突类似，每个神经元可以接受多个输入，也就是图中的X1,X2，每个X输入到神经元后，会进行方法或缩小，他也就是乘上一个权重值W，即图中的W1，W2，然后进行相加求和操作。操作求得的值在经过一个激活函数，得到最后输出值Y，Y就是生物神经元的轴突。每一个神经元的输出又可以作为下一个神经元的输入。（中间的大圈就相当于细胞核，权向量相当于电阻，偏执因子相当于细胞核里面自带的电阻）

举个例子 我们根据公式计算 拿最后一组数据进行举例 三个权值我们设置为0.5 输出值=0.51 +0.51 +0.5*1 - 0.6 =0.9 >=0 所以输出1

感知器学习规则

详细步骤已经列出，其中的y就是单层感知器输出值

学习率

学习率决定了优化器每次调整参数的幅度大小

线性神经网络

BP神经网络

Sigmoid函数：
Tanh和Softsign函数：