改善深层神经网络：超参数调整、正则化以及优化——2.5 指数加权平均的偏差修正

当$\beta =0.98$时，其实预测曲线是图中的紫色线，在一开始的时候由于$v_0=0$，导致前面部分的值低于预期的实际值，为了解决这个问题，加入了偏差修正。
$$v_t=\beta v_{t-1}+(1-\beta ){\theta }_t$$在指数加权平均早期，因为设定$v_0=0$，$v_1=0.98\ast v_0+0.02\ast {\theta }_1$，因为$v_0=0$，所以$v_1=0.02\ast {\theta }_1$，如果第一天温度是40华氏度，那么$v_1=8$，得到的值会小很多，所以第一天温度的估测不准。$v_2=0.0196\ast {\theta }_1+0.02\ast {\theta }_2$。

有个办法可以修改这一估测，让估测变得更好，更准确，特别是在估测初期。也就是不用$v_t$，而是用$\frac{v_t}{1-{\beta }^t}$，公式中的t是指现在的天数。

举个具体例子，当t=2时，$1-{\beta }^t=1-0.98^2=0.0396$。因此对第二天温度的估测变成了$\frac{v_2}{0.0396}=\frac{0.0196\ast {\theta }_1+0.02\ast {\theta }_2}{0.0396}$。

随着t的增加，公式中的${\beta }^t$的t次方将接近于0。所以当t很大的时候，偏差修正几乎没有作用。