double类型数字相加减的时候结果与预期不符合

最新推荐文章于 2024-01-27 23:30:25 发布
最新推荐文章于 2024-01-27 23:30:25 发布
阅读量594 收藏
点赞数 1
分类专栏： .NET-C# / ASP.NET
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/YangWeiKe/article/details/103908339
版权

这个问题是刚工作几个月的时候遇到的，两个double类型数据相加时，明明看起来是两个整数，却出现了很长的小数

eg：131+121=251.0000000000000000000000000000000001（且大概率难以重现，有时候有这种情况，有时候又不会发生）

原因：在数值相加减时，会先被转化成机器数然后再运算，即二进制的形式。但是在转换成二进制代码表示的时候，存储小数部分的位数会有不够的现象，即无限循环小数，这就是造成微小差距的主要原因。

解决方案：

使用Decimal类型

 

隐人语
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
double相加出现多位小数的问题
海阔天空
02-28 1661
double相加出现多位小数问题
java中double类型运算结果异常的解决方法
08-31
下面小编就为大家带来一篇java中double类型运算结果异常的解决方法。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧
踩坑记录,double相加位数变多，使用BigDecimal优化
最新发布
Nanki_的博客
01-27 804
在计算机中，浮点数精度问题是由于二进制浮点数的表示方式导致的，而有些十进制小数无法精确表示为有限的二进制小数。这导致在浮点数运算中可能出现舍入误差，影响计算结果的精确性。在需要高精度计算的情况下，使用BigDecimal类是一种可靠的选择，能够避免浮点数精度问题带来的困扰。
程序中两个Double类型相加出现误差的解决办法
01-01
今天在自己做的系统中，发现了一个奇怪的现象：几个Double类型的数据相加，到最后得出的金额比正确数值总是少了几毛钱。以为是程序里的计算方法有问题，可是排查了很多地方，始终没有找到问题出在哪里。最后干脆把计算方法一句一句拆分，得到了最后最简单的一步，就是把两个具体的数值相加，但是最后的结果居然还是错误的。比如，现在已经到了最简单的一步： 代码如下:double n = 171.6;double m = 28.17;double k = n + m;　　按理说k的值应该是199.77，但其实得到的居然是199.76999999999998。      我们的系统里有保留小数位数为4位，按理是可以
彻底解决BigDecimal出现很多位小数问题
wangyue123com的专栏
01-08 6707
1、BigDecimal对象不要构造Double类型小数 比如： BigDecimal num5 = new BigDecimal(2.225667); //会损失经度，打印结果：2.225667000000000061987748267711140215396881103515625 System.out.println(num5); 应该改为写法： BigDecimal num5 = new ...
两个Double相加，小数点有很多位问题
世军小胖子的博客
10-30 1万+
在我们进行两个double运算时，例如：2..0-1.1 不是想象的输出0.9，而是0.89999999999999999。其主要原因是浮点数值采用二进制系统表示，而在二进制系统中无法精确的白石分数1/10。这就好像十进制无法精确地表示1/3一样。如果需要在数值计算中不含有任何舍入误差，就应该使用BigDecimal类！
double类型相加(減、乘、除)结果会有些误差
Altynai0514的专栏
02-23 1万+
前提介绍       今天在调试代码的时候发现了一个double类型数据相减的有趣问题，148163.1 - 82692.09大家猜猜结果等于多少，经过调试最终为5471.010000000009。 是不是很奇怪，下面将说明这其中的奥妙！ 原因说明      double属于floating binary point types，也就是说都double型的数值在相加减的时候
test2_JavaDouble类型比较大小_java编程_
10-04
Java Double 类型比较大小 不能直接使用 >0
c语言double类型默认输出小数几位
08-19
在本篇文章里小编给大家分享的是关于c语言double类型默认输出小数几位的相关知识点，需要的朋友们可以学习下。
关于遇到的：System.Data.SqlClient.SqlException:“‘=‘ 附近有语法错误。”
热门推荐
个人成长记录
02-04 2万+
此类错误，一般是指最终拼凑字符串生成的SQL语句有问题，可检查=附件字段，一般有下列几种情况 是否缺少空格 字符串类型值少加了单引号（包括字符串内的单引号未进行替换处理） 等号后面没有值进行占位。 今天出现的问题语句： string sql = "select StudentName,Gender,Birthday,StudentIdNo,StudentAddre...
C#两个list集合实现关联，将一个集合的某列属性值赋给另一个集合的某个属性列
个人成长记录
09-30 9921
有两个list,listA 和listB， listA中有三个属性列为StoreId、OrderCount，StaffCount, listB中有两个属性列为StoreId、StaffCount， listA中当前StaffCount列为空，listB中两列都不为空，如何使用linq将listB的StaffCount列的值赋给listA，对应关系为listA.StoreId=listB.Store...
C#泛型集合List分批操作(分批查询、写入等)
个人成长记录
01-04 2564
简单介绍两种方式 方式一：使用for循环，每次循环利用泛型集合的GetRange()方法，取一部分数据执行要执行的操作，例如： var var range = 50; int times = paramList.Count/range + (paramList.Count % range > 0 ? 1 :0 ); //paramList为要操作的数据，times为需要分批次数 f...
【C#泛型集合常用方法】如list.FirstOrDefault()、list.Where(n=>n.Id==xx).ToList()等
个人成长记录
10-12 2499
先定义两个list： //定义个实体类ModelDemo { public int Id {get ;set; } public string Name {get; set; } } //定义int类型集合intList和ModelDemo类型集合modelList List<int> intList = new List<int>(); List&lt...
C#默认参数的用法与限制
个人成长记录
01-04 1444
默认参数(又译作“缺省参数”)，是C#4.0引入的特性，它的作用是给方法定义某个参数的时候给参数指定一个默认值 例如这样的场景，请求页面数据的时候，我们往往会做分页，入参包含页码(pageIndex)和每页显示数据量(pageSize)两个参数 public List<ModelResponse>GetPageList(int param,string userNo,int pa...
c语言中float类型与double类型可以相加减吗
06-10
可以相加减，但在进行运算时，float类型会被自动转换为double类型，然后再进行运算。例如： ``` float a = 3.14; double b = 2.718; double c = a + b; // float类型的a会被自动转换为double类型再和b相加 ``` ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值