本文探讨了深度学习与机器学习在特征工程上的差异，指出深度学习能自动从原始数据中学习特征，而机器学习依赖人工特征选择。接着，介绍了神经网络的基础，包括矩阵权重、损失函数、前向传播和反向传播，以及梯度下降在优化权重矩阵中的作用。此外，还讨论了损失函数的不同类型及其对模型的影响，并提供了简单的神经网络搭建示例。
目录
深度学习
机器学习的一部分
机器学习流程：数据获取，特征工程，建立模型，评估与应用。
特征工程是最大难度的，建模调api即可。
1.深度学习和机器学习的特征工程区别？
算法选择好的特征。
机器学习偏人工，人工选择特征；
深度学习，原始数据，通过网络学习哪些特征更加合适。解决特征工程的问题。
数据特征决定了模型的上线，预处理和特征是最核心的，算法和参数选择只是在逼近上限。
2.特征如何提取？
神经网络，黑盒子—>输入数据，自动进行特征提取，提取出认识的一系列特征。深度学习的核心：如何提取特征。
神经网络基础
得分函数：
线性函数，
3072个像素点，每个像素点影响不同，对应的重要程度（权重）不同；每个特征对应不同的权重参数。3072->3072个权重参数；
例如：一个十分类任务，十个类别分别计算得分，每一类有各自类别的权重，每个长度是1*3072行向量,每个类别对应一个行向量；十个类别对应着十个行向量。得到权重矩阵就是10*3072个行向量。W权重参数，b偏置参数。（W决定性，b是微调作用）
还是这个例子，三分类：猫狗船，分别得到得分值。3*4，三个类别。
权重参数大时候，重要程度大，正负：正促进作用，负抑制作用。
矩阵怎么来？
优化来的（梯度下降）随机初始化3*4矩阵，然后得到效果不好（上面图为例子）,不是因为数据不好，而是因为权重矩阵不好。--à调整权重矩阵：损失函数。
损失函数
神经网络：分类回归都行。
损失函数
最低0.47元/天 解锁文章
扫一扫
4万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
