1.引子
神经元大家可能都很熟悉,但让大家失望的是,其实虽然说是神经元,我觉得理解为我们人类的记忆方式更好,而且人类的记忆是和神经元有密切关系的。
在说单神经元之前,先说件事,一件体验过大学期末的同学肯定都知道的事,就是临近期末,我们在最后几节课肯定都会划重点,而后我们就会把最后一周几乎所有的时间都会放在那些重点知识上面,然后到考试的时候就是那些知识我们记得最牢的时候;然后放假了,你玩了几周可能就发现,自己那些考前突击的知识点几乎全不记得了。而后到了第二个学期,我们又开始进入这个循环,只是重点知识从第一学期变成了第二学期。
这个事儿呢,我觉得和单神经元是有很多相似的地方的,我们用图来梳理一下这个复习的过程。
这里我们可以将所有的知识作为整体,知识的掌握我们可以作为输出,重点知识表示你付出了更多的时间,也就是重点知识的权重比其他的知识更大,我们就可以得出一个结论:
知识的掌握(输出的数据)是根据所有的知识(输入的数据)和是否重点(数据的不同的权重)决定的。
在这里我们再做出一个假设,如果我们的考试结果会对老师划重点产生影响。
也就是说:
考试结果(输出数据后得到的实际数据)会反过来决定知识的重要性(数据的不同的权重)
其实到这里,学过PID的同学可能会有点感觉了,我个人觉得这就是一个闭环,只是不是用来控制速度,而是用来控制PID三个参数的变化的。
2.单神经元模型
根据上图所示,对于第i个神经元,x1、x2、……、xN是神经元接收到的信息,ω1、ω2、……、ωN为连接强度,又称之为权。采用某种运算方式把输入信号的作用结合起来,得到他们总的结果,称之为“净输入”通常用neti表示。根据所采用的运算方式的不同,净输入有不同的表示形式,比较常用的是线性加权求和,其表达式如下:
其中,θi是神经元i的阈值。 而神经元i的输出yi可以表示为其当前状态的函数,这个函数我们称之为激活函数。一般表示如下:
参考链接:https://blog.csdn.net/foxclever/article/details/84678393
这里我觉得可以将 n e t i net_i neti看做掌握的知识, y i y_i yi看做考试得到的结果
然后我们得到了结果,我们需要将结果作为反馈来重新确定权重,而这个过程叫做学习规则
3.学习规则(反作用确定权重)
虽然主要有3种学习规则,但是这里我想用自己的理解去说一下其中一种(另外两种的结合)
有监督Hebb学习规则
也就是说,权重的变化量为网络期望目标输出dj和网络实际输出Oj之差,单元i的激活值,单元j的激活值和学习速度η的乘积.
链接种PID的代码用到的相对更简单,本身的理解我个人未完全透彻,之后搞明白了补坑!
链接:https://blog.csdn.net/foxclever/article/details/84678393
写下来为了自己梳理一遍,防止忘记和忽略,顺便找观众老爷们要点点赞哇(收藏我不配…)