C#浮点运算出错问题

最新推荐文章于 2024-10-13 20:33:29 发布

bhots

最新推荐文章于 2024-10-13 20:33:29 发布

阅读量271

点赞数 3

文章标签： c#

本文链接：https://blog.csdn.net/weixin_45180205/article/details/136259734

版权

在计算单价等活动的时候，我们经常会用到double 浮点进行运算，但是在乘除的时候经常出现精度丢失问题
decimal 关键字表示 128 位数据类型。同浮点型相比，decimal 类型具有更高的精度和更小的范围，这使它适合于财务和货币计算

  double unitprice = Convert.ToDouble(0.2) * 1.006 * 10000;
  int priceint = (int)Math.Ceiling(unitprice); // 0.20120000000000002
  //后面丢失的是精度
 
 //这样就不会丢失精度了
double result2 = (double)((decimal)0.2* (decimal)1.006);