第一章 绪论
-
机器学习步骤
-
表示学习:Representation learning,自动地学习出有效的特征,提高机器学习模型的性能。
表示:Representation,有效的特征
表示学习的关键:构建具有一定深度的多层次特征表示。 -
one-hot向量:有且只有一个元素为1,其余元素都为0的向量
-
嵌入:高维的局部表示 映射到 低维的分布式表示
-
深度学习的数据处理流程
-
激活函数
如果不用激活函数,每一层输出都是上层输入的线性函数,无论神经网络有多少层,输出都是输入的线性组合,这种情况就是最原始的感知机(Perceptron)。如果使用的话,激活函数给神经元引入了非线性因素,使得神经网络可以任意逼近任何非线性函数,这样神经网络就可以应用到众多的非线性模型中。
-
反向传播算法:基于梯度下降,包括两个环节(激励传播、权重更新)