我们先看一下机器学习:
概念:
机器学习(Machine Learning)是一门专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能的学科。
应用:
图像识别、语音识别、自然语言理解、天气预测、基因表达、内容推荐等等。
大概流程:
获得数据–预处理–特征提取–特征选择–推理、预测或识别。
核心步骤:提取特征
好的特征应具有不变性(大小、尺度和旋转等)和可区分性。
现在的特征提取都是人工的(比如情感分析中我们提取形容词为特征)。
- 人工提取特征费力、启发式(需要专业知识),能不能选取好很大程度上靠经验和运气,而且它的调节需要大量的时间。
所以,深度学习 就来解决这个问题了。
深度学习的引入
人脑可以根据不同东西的特点来识别的原理是什么?有人研究了大脑结构以及大脑中的神经系统的工作原理,简单可以概括为:
神经-中枢-大脑的工作过程是一个不断迭代、不断抽象的过程。
深度学习就是模仿神经系统的工作原理,从输入到输出,要经过很多神经元从而进行不断的抽象与迭代的过程。
深度学习的思想:
堆叠多个层,也就是说这一层的输出作为下一层的输入。通过这种方式,就可以实现对输入信息进行分级表达了。
Deep Learning能够自动地学习出数据的另外一种表示方法,这种表示可以作为特征加入原有问题的特征集合中,从而可以提高学习方法的效果,是目前业界的研究热点。
浅层学习与深度学习
浅层学习算法的提出:
bp算法(用于人工神经网络的反向传播算法,Back Propagation)
利用BP算法可以让一个人工神经网络模型从大量训练样本中学习统计规律,从而对未知事件做预测。
浅层机器学习模型的提出:
我们熟知的很多机器学习模型,比如svm、boosting、逻辑