【深度学习】神经网络入门
/在进行这方面学习工作的时候,在网上搜集到了很多的资料与博客,之前一直把学习的笔记存放在有道云里,最近决定还是想要整理成博客所以接下来会一直把我之前的机器学习、深度学习、强化学习的相关知识和自己的经验整理成博客陆续更新/
1.神经网络介绍
深度学习是基于神经网络的研究,含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。
深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示,如每个像素强度值的向量,或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如,人脸识别或面部表情识别)。深度学习的好处是用非监督式或半监督式的特征学习和分层特征提取高效算法来替代手工获取特征。
通俗的来讲,所谓的提取特征就是找到数据中的规律,网络中学习到的参数都是权重,被用来拟合出一条多维空间的曲线。
2.监督学习任务
同机器学习方法一样,深度机器学习方法也有监督学习与无监督学习之分.不同的学习框架下建立的学习模型很是不同.例如,卷积神经网络(Convolutional neural networks,简称CNNs)就是一种深度的监督学习下的机器学习模型,而深度置信网(Deep Belief Nets,简称DBNs)就是一种无监督学习下的机器学习模型。
上图所示是各种神经网络所适合的对应任务:
- SNN标准的神经网络适合用于房价预测,曲线拟合等基本分类任务
- CNN卷积神经网络适用于计算机视觉的图像分类标注等任务,也是我比较喜欢的一个方向,在后面会详细说到
- RNN循环神经网络适用于时序数据的分析和推理适用于nlp自然语言处理,音频文本识别等任务
- 当然对于特定的任务我们也可以根据需要自己组合自定义出混合神经网络
标准神经网SNN 卷积神经网络CNN 循环神经网络RNN实例对比
3.数据规模预算法性能的关系
上面的几张图都是来源于吴恩达大佬的ppt上
随着数据规模的增长网络深度越深最终的效果会越好
红色的线是传统的机器学习算法(SVM)然后网上是从小到大的网络规模