《Tensorflow 实战Google深度学习框架》这本书的滑动平均公式好像错了

在《Tensorflow 实战Google深度学习框架》一书的4.4.3节中,关于滑动平均模型的公式存在错误。原文公式为:shadow_variable=decay*shadow_variable+(1-decay)*variable,但作者认为正确公式应为:shadow_variable=decay*variable+(1-decay)*shadow_variable。对比两种公式的计算结果,可以看出书中的公式并不正确。该问题也得到了其他博文的证实。
摘要由CSDN通过智能技术生成

我看的书是2017年3月第1版的,在4.4.3节P80处讲到滑动平均模型如下

书中给的公式是:

shadow_variable=decay*shadow_variable+(1-decay)*variable

但我觉得正确的公式应该是:

shadow_variable=decay*variable+(1-decay)*shadow_variable

如果按照书中公式,可以得到如下结果

 variableshadow_variable
111
241.03
321.0397
451.079303
511.07850997
621.08772487
7101.176847622
821.185079145
941.213228354
1051.25109607
1141.27858511
1251.315799259
1341.342641266
1421.349214853
1551.385722705
1681.451865478
1721.457346823
1811.452773355
1901.438245621
2011.433863165
2131.449524533

按照我说的公式可以得到如下结果

 variableshadow_variable
111
243.97
322.0197
454.970197
511.03970197
621.99039702
7109.91990397
822.07919904
943.98079199
1054.98980792
1144.009898079
1254.990098981
1344.00990099
1422.02009901
1554.97020099
1687.96970201
1722.05969702
1811.01059697
1900.01010597
2010.99010106
2132.979901011

很显然书中的公式有问题,还可以参考这篇博文https://blog.csdn.net/x_i_y_u_e/article/details/44194761,这篇博文说的公式也是和我更正后的公式一致。有想法的同学欢迎留言讨论。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值