【重磅】Loss Function损失函数

Table of Contents

一、0-1损失函数

二、绝对值损失函数（Absolute Loss Function）

三、平方损失函数（Square Loss Function）

四、指数损失函数（Exponential Loss Function）

五、对数损失函数（Logarithm Loss Function）

六、铰链损失函数（Hinge Loss Function）

---

 

一、0-1损失函数

二、绝对值损失函数（Absolute Loss Function）

三、平方损失函数（Square Loss Function）

说明：

四、指数损失函数（Exponential Loss Function）

五、对数损失函数（Logarithm Loss Function）

说明：来源于极大似然估计

六、铰链损失函数（Hinge Loss Function）

---

对比

损失函数对比

index	Loss function	是否能求导	代表模型	补充说明
1	0-1损失函数	NO	KNN
2	绝对值损失函数	NO
3	平方损失函数	YES	传统(单元/多元)回归分析	OLS最小二乘估计
4	指数损失函数	YES	Boosting、Adaboost
5	对数损失函数	YES	Logistic Regression	来源于极大似然估计的思想，乘法变加法，Cross Entropy Loss、Softmax
6	铰链损失函数	?	SVM