开篇
很多时候,机器学习的算法是可以按照损失函数来划分的,像我以前博客中提到的LR和SVM的区别,首先它们的损失函数就是不一样的。这边我还是先整理一部分损失函数,近期会逐步的完善。
0-1损失函数
该损失函数的意义就是,当预测错误时,损失函数值为1,预测正确时,损失函数值为0。该损失函数不考虑预测值和真实值的误差程度,也就是只要预测错误,预测错误差一点和差很多是一样的
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/dfb16fbf0dc4987b9bff3a922147c592.png)
很少被使用到,主要是不可导,必要是需要转化成其他可导的函数,才能完成算法的优化,后面介绍auc loss的时候可以详细谈谈怎么转化成可导的损失函数。
平方损失函数
预测差距的平方
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/15205943a91401ee5b89106e37100c55.png)
绝对值损失函数
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/6e7641755942d885eed978763ea4d49e.png)
对数损失函数
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/549e4f253454afc53d042e3037edf5f4.png)