Zhang's Wikipedia

玩就玩大的

【数值分析】—— 深度学习中的数值计算技巧

underflow:浮点数下溢,数值逼近 0 时出现; 0 作除数, 对 0 取对数; overflow:浮点数上溢,数值逼近无穷大时出现; 浮点数溢出,不论是上溢还是下溢,会使得最终的结果 Undefined(比如为 NaN),或者跟真实的结果相差很大的量级; 1. softmax 函...

2018-08-26 21:01:57

阅读数:337

评论数:0

【数值分析】—— 对数函数、指数函数(数值稳定性)

1. logxlog⁡x\log x ⇒ log(1+x)log⁡(1+x)\log(1+x) 从计算机数值计算的角度,当 xxx 逼近 0 时,log(1+x)log⁡(1+x)\log(1+x) 比 logxlog⁡x\log x 更加精确。Python math 库中有专门的函数,mat...

2018-08-12 11:49:13

阅读数:420

评论数:0

提示
确定要删除当前文章?
取消 删除
关闭
关闭