机器学习基础知识
基础概念
机器学习(Machine Learning,ML):让机器具备找一个函数的能力,这个函数可以用来声音识别,图像识别等功能
深度学习(Deep Learning,DL):深度学习是一种模拟人类大脑神经网络工作方式的算法
机器学习的类别:根据要找的函数的不同,把机器学习分为不同的类别,例如回归(根据之前的数据预测未来的数据,如天气,温度,降水量等预测类问题。),分类(判断该问题的答案为正确还是错误,垃圾邮件过滤等等问题),结构化学习(例如写一篇文章,根据文字产生一张图片)
案例学习
以预测未来一天的视频点击量为案例了解机器学习
找函数的工作分为三步
1.假设一个函数f
2.定义损失函数
3.找到未知参数的最优解
1.定义函数
例如,可将函数写为y = b + wx,y是经过预测得到的数值,x为该视频,b,w即为要求的参数,是未知的,可以通过过去的视频播放量来确定。我们将带有未知参数的函数称为模型
2.定义损失函数
对于给定的数据集,损失函数计算模型在整个数据集上的平均损失(或成本)。这个平均损失代表了模型性能的“好坏”,损失越小,通常意味着模型的性能越好。苹果书中写到采用均方误差(Mean SquaredError,MSE)e = (ˆy y − y)2;平均绝对误差(Mean Absolute Error,MAE)e = |yˆ − y|;或者交叉熵的方式计算估测值和实际值之间的差距
画出来的等高线图称为误差表面(error surface)。在这个等高线图上面,越偏红色系,代表计算出来的损失越大,就代表这一组 w 跟 b 越差。如果越偏蓝色系,就代表损失越小,就代表这一组 w 跟 b 越好,拿这一组 w 跟 b,放到函数里面,预测会越精准。
可以通过尝试了不同的参数,计算它的损失,通过等高线图来确定函数 L(b, w)中b,w的值哪个是最优解。
3.找最优解
苹果书以梯度下降(gradient descent)为例,是经常使用优化的方法。