关于神奇的浮点型double变量

最新推荐文章于 2023-12-14 09:13:42 发布

weixin_30624825

最新推荐文章于 2023-12-14 09:13:42 发布

阅读量163

点赞数

原文链接：http://www.cnblogs.com/xwxts-LYK/p/6076311.html

版权

1、因为double类型都是1.xxxxxxxxx(若干个0和1，二进制)乘以2的若干次幂来表示一个数，所以，和十进制的小数势必不能够一一对应，因为位数有限，总要有一个精度（两个数之间的实数是任意多的，但是很明显double不可能表示任意多的数），那么double的0就只是用一个近似0的数来表示的


2、浮点数比较相等的时候，不能用==比较，要采用if(abs(x-y)<=EPSILON)的方式，其实EPSILON是预定义的很小的数，也就是要求的精度，比如类似1e-6，也就是说，比较两数之间的差是否在可接受的精度范围内。


3、和0比较，就是if(abs(x)<=EPSILON)，绝对值小于要求精度，就可以认为是0.

================================================================================

转载于:https://www.cnblogs.com/xwxts-LYK/p/6076311.html