2020-10-08

CV目标检测基础1—神经网络来源

神经网络是从生物学模拟的生物神经网络的结构和功能提出来的。

1.神经元

生物神经元：大小和形态上有很大的区别，但是都同时具有结构体、胞体、突触、树突和轴突。
树突和轴突是神经元的突起，突起在神经元间传递电信号。神经元的功能接受信号并对其做出反应、传导兴奋、处理并存储信息以及发生细胞之间的联结等。这样动物才能对外界环境做出反应，如下图1所示。

2.感知器

感知器：人工模拟的神经元如图2所示，

假设实际是y，此时y’=f（∑wi x zi +b）为了得到真实值y而假设的。
如何更改权重数值使其输出的y’更加接近真实真呢？----感知器的学习过程：
首先通过计算得出y’,然后将实际值y和理论值y’做差，由此来更新每一个输出端上的权值。学习规则就是用来计算新的权值矩阵W及新的偏差B的算法。

注：这里的权重值的初始化值是随机的。

3 激活函数

激活函数是为了让设计的神经网络更加多样化，使其具有非线性功能，能表示更多复杂函数的能力等等。有Sigmoid、ReLU、tanh、Leaky ReLU、Mish等等。

1. 激活函数使神经网络具有非线性。它决定感知机是否激发。
2. 2.激活函数的这种非线性赋予了深度网络学习复杂函数的能力。
3. 3.除了在0点的修正单元以外，大多数激活函数都是连续函数和可微函数。

4.下面介绍一个例子：

中国通用长度计量厘米（cm）与英国的英寸（in）之间的转化，假设我们不知道这个转化公式，在单层感知器的输入端输入的是英寸，希望输出是厘米的数值。
先设定输入值是10英寸，并随机生成连接权值，现在假设w=1,此时单层感知器的输出为：厘米=10x1=10，但是我们知道正确输出应该是25.4cm。这时可以计算输出值与真实值之前的差：误差值=真实值-输入值=25.4-10=14.4，
然后用这个误差值对权重w进行调整至2，可以得出新的结果：厘米=10x2=20，这个结果明显优于上一个，误差值5.4。
再次重复上述过程，将w调整3，结果cm=30，明显超过真实值，误差值-4.6，这个负号不是一味这不足，而是调超了。
此时可以看出，w=2的结果要优于w=3的结果，如果误差达到课接受的范围，就可以停止训练，或者在[2,3]之间继续微调。