double类型的精度是15位,也就是说,它对数值的描述是有一个范围的,那么,超出这个范围,就会出现一个误差,这个误差,会造成数据计算的失误,大家或许会觉得,15位,足够用了,但其实不对,大家平常就会用到,注意下面的例子:
double i = 0.0; while (i < 10) { i += 0.1; Console.WriteLine(i.ToString()); if (i == 6.0) { Console.WriteLine("is 6.0"); } }
大家认为输出结果会是什么,是不是:0.1,0.2,0.3。。。9.9如果认为是上述结果的话,那你真失败了~你可以跑一下,看看结果,当输出5.9后,下一个数据会是5.99999999999999,每次+0.1,这样误差就出来了,所以说,不能指望浮点数来精确计算。
如果要计算的话,应该加一些限制条件,比如:
double i = 0.0; while (i < 10) { i += 0.1; Console.WriteLine(i.ToString()); if (Math.Abs(i - 6.0) < 0.01) { Console.WriteLine("is 6.0"); } }
说实话,我是不喜欢这么写,因为还要加一些条件限制,忒麻烦,我的项目如果用到浮点类型的话,一般都是数据库numeric(18,2)引用的,orm框架的映射,会转换成decimal,decimal精确的位数会更高一些,所以,我一般用decimal,唉,但是有个问题是,运行的效率,decimal没有double高。。。