浮点数间慎用比较
在R语言中，输入一个简单的计算题：0.3-0.7+0.4，得到的结果是5.551115e-17，而随机叫一个小学二年级的同学来口算，这个题答案等于0，但是R语言不这么认为！
> 0.3-0.7+0.4
[1] 5.551115e-17
> 0.3-0.7+0.4 == 0
[1] FALSE
以上就是一个典型的浮点数计算精确性不足案例，上述情况出现的原因是浮点数计算的精确性问题。
在计算机中，浮点数的存储和计算都有一定的误差，因此在进行浮点数计算时，可能会出现一些意外的结果。
错误原因
在本例中，0.3、0.7 和 0.4 都是浮点数，它们在计算机中的存储和精度都有一定误差。
当计算 0.3-0.7+0.4 时，由于浮点数计算的误差，结果并不是精确的 0，而是一个非常接近 0 的数，即 5.551115e-17。
这种浮点数计算误差可能会导致比较操作的结果不准确。在本例中，由于 5.551115e-17 不等于 0，因此比较操作的结果为 FALSE。
这种误差可能会对程序的正确性产生影响，因此应该尽量避免使用浮点数进行比较。
本文由 mdnice 多平台发布
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
