序列预测中损失函数详解-MAE、MAPE、RMSE、Huber

损失函数

损失函数用来评价模型的预测值和真实值不一样的程度，损失函数越好，通常模型的性能越好。

---

---

前言

提示：这里可以添加本文要记录的大概内容：
例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。

---

提示：以下是本篇文章正文内容，下面案例可供参考

预测与偏置

常见的损失函数

Error 与 Bias

$$e_t=f_t-d_t$$
$f_t$是预测数据，$d_t$是真实数据
$$bias=\frac{1}{n}\sum _n{e}_t$$

RMSE

$$RMSE=\sqrt{\frac{1}{n}\sum _n{e}_t^2}$$


整体偏向离群值。

平均绝对误差（Mean Absolute Error，MAE）

$$MAE=\frac{1}{n}\sum _n|e_t|$$


受离群点（脱离样本分布的异常值）影响较小。

MAPE

$$MAPE=\frac{1}{n}\sum _n\frac{|e_t|}{d_t}$$
也就是误差占真实值的比例，如果同样的误差，当其真实值较小时，会造成误差极大的现象，也就意味着更容易受到较小真实值的影响。

比较

Forecast1 采用样本中较低的值
Forecast2 采用样本的中位数
Forecast3 采用样本的平均数

Huber 损失函数

$$Huber=\{\begin{array}{ll}\frac{1}{2}{e}_t^2,& for|e_t|\le \delta \\ \delta |e_t|-\frac{1}{2}{\delta }^2,& otherwise\end{array}$$
Huber损失对数据中的异常点没有平方误差损失那么敏感。本质上，Huber损失是绝对误差，只是在误差很小时，就变为平方误差。误差降到多小时变为二次误差由超参数$\delta (delta)$来控制。当Huber损失在$[0-\delta ,0+\delta ]$之间时，等价为MSE，而在$[-\infty ,\delta ]$和$[\delta ,+\infty ]$时为MAE。Huber损失结合了MSE和MAE的优点，对异常点更加鲁棒。

# huber 损失
def huber(true, pred, delta):
    loss = np.where(np.abs(true-pred) < delta , 0.5*((true-pred)**2), delta*np.abs(true - pred) - 0.5*(delta**2))
    return np.sum(loss)