C#中,double类型的精度问题(最好都看看)

double类型的精度是15位,也就是说,它对数值的描述是有一个范围的,那么,超出这个范围,就会出现一个误差,这个误差,会造成数据计算的失误,大家或许会觉得,15位,足够用了,但其实不对,大家平常就会用到,注意下面的例子:

double i = 0.0;
while (i < 10)
{
      i += 0.1;
      Console.WriteLine(i.ToString());
      if (i == 6.0)
      {
             Console.WriteLine("is 6.0");
      }
}






大家认为输出结果会是什么,是不是:0.1,0.2,0.3。。。9.9

如果认为是上述结果的话,那你真失败了~你可以跑一下,看看结果,当输出5.9后,下一个数据会是5.99999999999999,每次+0.1,这样误差就出来了,所以说,不能指望浮点数来精确计算。

如果要计算的话,应该加一些限制条件,比如:

double i = 0.0;
while (i < 10)
{
      i += 0.1;
      Console.WriteLine(i.ToString());
      if (Math.Abs(i - 6.0) < 0.01)
      {
             Console.WriteLine("is 6.0");
      }
}


说实话,我是不喜欢这么写,因为还要加一些条件限制,忒麻烦,我的项目如果用到浮点类型的话,一般都是数据库numeric(18,2)引用的,orm框架的映射,会转换成decimal,decimal精确的位数会更高一些,所以,我一般用decimal,唉,但是有个问题是,运行的效率,decimal没有double高。。。


  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值