原创文章,转载请说明来自《老饼讲解神经网络》:www.bbbdata.com
关于《老饼讲解神经网络》:
本网结构化讲解神经网络的知识,原理和代码。
重现matlab神经网络工具箱的算法,是学习神经网络的好助手。
对于新人,搜出的神经网络资料一大堆,往往不知从何下手,又不知哪里是终点,
本文笔者给出自己的建议,希望能给到新人一些帮助。
一、学习的内容
学习神经网络要学习哪些内容?
(一)明确学习方向
人们概念中的神经网络大概指三块:
1、传统经典神经网络
2、BP神经网络
3、深度学习如果要搞图象、音频、文本这三大块,那就要学BP神经网络+深度学习,
如果不搞图象、音频、文本这三大块,那就是BP神经网络+传统经典神经网络也可以理解为,
如果只是用BP辅助解决一些不涉及图象音频文本的专业问题,那就走BP神经网络+传统经典神经网络方向。
如果需要解决图象音频文本或人工智能等问题,就需要走深度学习方向。
两者的焦点、学习方法、所需基础知识和学习成本是极大地不同的,不可混为一谈。
而本站,则是BP神经网络+传统经典神经网络这一方向。
如果需要学习深度学习,那需要去深度学习的专业网站,这样更有效率。
(二)明确学习内容
好,如果确定学习的是BP神经网络+传统经典神经网络,
那我们就只需捊清共有多少个传统经典神经网络算法就可以了。
传统经典神经网络算法:
径向基神经网络:精确径向基、径向基、广义神经网络、概率神经网络
竞争神经网络:LVQ、SOM
其它:感知机、Hopfield、Elman
这里列的并不是100%全面,没办法100%全面,太多了,我们只挑出必学的经典代表。
算法学习路线
1、从BP开始学习
BP的重要性
首先,我们的目标,肯定是要学习BP神经网络的,
它是最有代表性,也最为实用的神经网络,也是过渡到深度学习的基础。
或者说,如果你没学会BP,都不好说自己懂神经网络。所以,已经锁定了目标,学习神经网络=学习BP神经网络。
为什么直接学习BP
有很多书本的介绍,是从感知机开始,由简到易,
但笔者并不这样建议。
BP并不是那么难以入手,
如果按照历史发展,由简到易地去学,要耗费非常多的时间,
很可能在还没学到BP,就已经耗尽了激情。
反而一开始就着手学习BP,会非常有成就感,反而能激发着自己不断继续学习。
更重要的是,其它神经网络与BP并没有太大关系,
笔者看不到先学习其它神经网络对学习BP有什么好处,仅仅是为了给脑袋预热?
2、传统经典神经网络的学习顺序
传统神经网络有感知机、LVQ、SOM、径向基等等。
学习哪一个都没有太大关系,这些算法都是很小的一个算法,
它们之间没有太大的关联,找时间不断逐个击破即可。
但如果一定要给个优先度,那笔者建议如下学习:
径向基-->LVQ-->SOM-->感知机-->Hopfield-->Elman
这样的排序主要基于学习难度与算法实用程度的综合性价比。
BP路线
BP学习的路线建议如下
1、先掌握一些基础理论,调用工具箱实现一些DEMO。
基础理论key word有:归一化、过拟合、梯度下降等
2、将BP神经网络应用于自己的项目。
3、学习梯度下降法重写BP神经网络。
4、学习LM算法重写BP神经网络。
在理论学习的同时,更多的是实践中积累的经验,
只有在实践中不断发现问题,解决问题,才能更加深入的理解和应用好算法。
相关文章