1)机器学习的特点
1.1 存在人工干预
1.1.1 机器学习需要把数据表示成特征的集合,究竟用何种特征表示数据是由实现该算法的程序员决定的,称为特征选择
1.1.2 人们对于机器学习算法的选择,一旦选择了某种算法,就相当于假设数据集与这个算法的模型相似
1.2 目标 让计算机能够自己从数据中学习知识,从而为人服务
1.3 问题 由于存在人工干使得计算无法自己从数据中自动实现知识产生
1.4 人工神经网络与其他算法的不同
1.4.1 多层神经网络可以实现一种叫做自动编码器的算法,自动编码器隐藏层实际上相当于一个自动特征筛选过程,这个过程叫做表示学习
1.4.2 神经网络从理论上来讲,与大多数机器学习算法相似,因此可以实现模型选择的自动化
1.5 神经网络算法的局限性
1.5.1 基本都可以看成浅层学习,因为这些神经网络的隐藏层很少
1.5.2 梯度扩散,传统算法在求解过程中依赖于后向传播的梯度信号,但是随着层数的增加,梯度误差矫正信号的强度会逐渐变小,以至于最后不可用
1.5.3 容易得到局部最优解,而不是全局最优解
1.5.4 对数据要求高,尤其是需要数据必须有标签的数据,在实际中有标签的数据很难获得,而神经参数有很多,很可能无法训练处有效的模型
2) 深度学习
2.1 基本思想
增加神经网络中隐藏层的数量,使得大量的隐藏层来增强神经网络对特征筛选的能力,从而能够用较少的参数表达出复杂的模型函数,逼近机器学习的最终目标,知识的自动发展