2019/5/9机器学习第二阶段--深度学习

深度学习应用在计算机视觉上。核心人物是猫还是车树
一张图片用三维数组表示
3001003 三个色彩通道 RGB计算机
看来是矩阵的形式，图像由像素点组成的，数组中每个元素都是像素点，每个像素点的取值范围【0，255】，像素点越大，亮度越高
做深度学习的任务步骤，跟机器学习是一样的。
1，收集数据 给定标签
2，训练一个分类器（神经网络）区别，分类0，1
3，测试，评估

k近邻算法作为深度学习的过渡
通过指定K值看距离谁比较近，谁的数目越多，属于谁

k近邻算法不需要训练。代码如下：

当所有参数确定之后才能去用测试集！！非常宝贵！！
调节参数用交叉验证，把训练集分成5分，其中的一份是验证集。如下图：

为了保险起见，分成5分：1234 5；2345 1；1235 4；1345 2；1245 3.。
比如只拿1作为验证集，说不定1当中的数据存在误差或异常值，使得最终结果偏低。比如只拿5这个数据，可能它的数据比较简单，使得结果偏高。所以综合在一起，进行5次迭代，求sum，继续求一个平均值。通过交叉验证的方式来消除一些偏高或偏低的结果，用交叉验证而不是经验进行模型的建立。

K近邻结果不准确
因为把大部分背景考虑进来了。比如汽车和飞机图片中都有蓝天，结果就可能不准确。某些场景下k近邻不准确。下图中就是欧式距离与原始图片都是100，但是明显三个图是不一样的。所以用神经网络来进行分类。

神经网络
彩色图颜色通道等于3 灰度图是1，用输入和权重组合，来输出得分值 判断属于哪一个类别。
图像时32 32 3也就是3072.（1）首先转换成列向量 30721，得到的输出比如有10类，得到的是属于某一类的概率值，为101向量。所以什么样的参数才能和输入的30711的向量组合才能得到101的概率值向量呢？
WX=H
W:103072
X:30721
H:101
X有3072个像素点，W也是有3072个像素点，但是这是一组权重值，每一组权重值和X相乘，得到一个概率值。W一组权重参数是一个行向量，和一个列向量相乘，得到一组得分值，十个W行向量得到十组向量。再加上b 101。大的权重值使得结果偏大 小的权重值使得结果偏小。当前的模型认为某一个像素点他的影响程度比较大，对应的权重值就比较大。权重值不仅有大小也有正负。这个特征是积极消极作用通过正负号决定。
如下 得到了三个得分值：哪个类别得分值大，就判断属于哪个类别

用权重参数和输入进行线性组合。线性分类就是先找到这样一个决策边界，通过W找到倾斜程度，b确定与y轴的交点。
上图的输入样本得到一个得分值，但是是错误的类别预测错误。如何解决？这个错误呢？
损失函数

通过对比正确分类和错误分类的差值，再加1，表示容忍程度，数值越大容忍程度越大。然后与0进行比较。比0大就是有损失，比0小无损失。都是用错误的减去正确的得到结果+1。错误分类与正确分类结果差的越多 损失值越大。