神经网络简介

神经网络的主要工作就是输入数据，处理数据，然后给出一个结果作为输出，我们先介绍一下神经元，了解神经网络的组成

1 神经元

神经元是组成神经网络的最基本单位，它起初来源于人体，模仿人体的神经元，功能也与人体的神经元一致，得到信号的输入，经过数据处理，然后给出一个结果作为输出或者作为下一个神经元的输入。它的结构如下：

1）$x_1,x_2,...,x_n$表示信号的输入，例如苹果的颜色，苹果的形状等，这些都是信号
2）$w_1,w_2,...,w_3$表示输入信号的权重，指的是输入信号的重要性，一个较大的权重意味着神经网络认为这个信号输入比其它信号输入更重要，较小的权重意味着数据不是那么重要。比如你想要这个神经元可以区分苹果和香蕉，颜色和形状都是比较重要的信号，可以有助于神经元去区分，而它们的重量信号将很难帮助神经元去区分谁是苹果，谁是香蕉。
3）$sum$表示数据处理的过程，这个过程是将每个信号与对应权重的相乘，并将它们全部相加得到的一个结果，用数学公式表示为$sum=w_1 x_1 + w_2 x_2 + ... + w_n x_n + b$，用矩阵的形式进行简化计算表达$sum=WX+b$
4）$f$表示激活函数，激活函数的主要作用是使得神经元具有非线性，在数据处理的过程中，计算其实是一个线性组合，实际中，有很多都不是线性的，所以我们需要神经元具有非线性。目前激活函数使用比较多的是sigmoid、tanh、ReLU等激活函数。
5）$b$表示偏置，加上偏置是为了让神经元的计算不单单只能经过原点。

2 神经网络

神经网络是由多个神经元组合而成，前一个神经元的结果作为后一个神经元的输入，依次组合而成。神经网络一般分为三层，第一层作为输入层，最后一层作为输出层，中间的全部是隐含层。它的结构如下

3 神经网络训练的原理

神经网络的训练，简单来说就是，首先随机初始化所有的神经网络权重，根据输入值，经过神经网络的计算得到输入，得到实际输出的与期望输出的误差，根据误差的大小调整所有神经网络权重，重复执行之前的操作，不停地降低误差。
由单个神经元组成的神经网络，我们称之为感知器。我们以感知器为例，激活函数采用sigmoid函数，训练一个能够进行与（&）运算的感知器
其训练过程如下：