深度学习-前向传播+反向传播

一、深度学与传统机器学的区别
1：在数据量较少的情况下，机器学和深度学训练后的数据是差不多的；但是在数据量较多的情况下，使用深度学训练数据较好。
2：机器学选择算法时需要调参，深度学不需要调参，深度学会发生过拟合的情况。
3：传统机器学的计算资源耗费较高。
二、深度学的应用
1：自然语言应用
2：计算机视觉
三、分类任务的步骤
1：收集数据并给定标签（需要收集很多数据，基本以万为单位）。
2：训练一个分类器（选择相应的算法）。
3：测试评估（计算准确率、精确率、召回率、ROC曲线）。
四、传统机器学的计算步骤—以knn邻近算法为例
1：求距离的两种方法
①欧氏距离：距离平方的算术平方根（l2范式）
②曼哈顿距离：距离和的绝对值（l1范式）
2：交叉验证
在进行图像分类的时候，是按照照片上的像素点来进行分类，但是使用l1、l2范式进行像素比较是不够的，图像更多的是按照背景和颜色被分类，而不是语义主体分身。
五、线性分类中的得分函数和损失函数
1、非线性分类器：SVM高斯核函数（超曲线）
2、线性分类器：逻辑回归、KNN算法（超平面）
线性分类器由两部分组成：
①得分函数：是一个从原始图像到类别分值的映射函数
②损失函数：用来量化预测得到的分类标签的得分与真实标签之间的一致性
该线性分类器可以转化成为一个最优化问题，