Double数据类型精度丢失

最新推荐文章于 2024-05-11 10:24:57 发布
最新推荐文章于 2024-05-11 10:24:57 发布
阅读量138 收藏
点赞数
文章标签： java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/fuyd912/article/details/131258498
版权

在这行业务逻辑代码中用Double来统计金额

 

展示到页面时发现精度丢失 

 使用BigDecimal封装的方法valueOf 转化为BigDecimal类型数据

BigDecimal中封装了很多数值计算的方法

如num1.subtract（num2,mc）相当于num1-mum2 mc是设置的精度可以调策略 比如四舍五入 可以看底层原码 有很多

num1.add(num2，mc) 相当于num1+num2

 这里回复到小数点后2位

前后我使用的数据页面不同 导致结果不同 不是因为精度丢失导致的差距这么大这个要注意

东东强东东东东东东东强
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
double类型精度丢失；double转换到64位整数
09-29
//将double类型转为_int64,防止精度1丢失 //将double类型转为_int64,防止精度1丢失
Mysql float/double 查询会有精度丢失
weixin_41237259的博客
02-18 4647
mysql中的float: float(20,2)，虽然设置的精度为2位，但是每次插入值时会保存三位，但保存的这三位数是不精确的。 查询时 1. 如果插入是一位小数，但精度是两位，此时插入的数通过相等是查不出来的(除了第一位小数是0和5)，因为mysql会将其补全到三位，最终保存的精度也是不准确的 2. 如过插入是两位小数，并且精度是两位，此时插入的数通过相等也并不一定能查出来 3. 对于三位小数...
mysql数据库中float、double、decimal 精度问题探讨
qq_28821739的博客
10-10 8198
不要盲目的说float和double精度可能发生丢失，而是说在存取时因为精度不一致会发生丢失，当然这里的丢失指的是扩展或者截断了，丢失了原有的精度。decimal是好，但不是说不会发生任何精度丢失。如果问题看得不深入，总会以偏概全。 我们知道，mysql存储小数可以使用float、double、decimal等。这些类型存储的小数精度都比较高。我们平时应用最多的就是两位小数点，所以，这些类型都是可以满足的。 那么数据精度丢失是如何表现的呢？到底是什么原因呢？ 当我们不知道原因的时候，总会认为到处都是问题
Java Double类精度丢失问题
incredibleww的博客
03-12 3152
一、精度丢失原理 例1：15.75 -> 1111.11 step1：拆分 将整数和小数部分拆分得：15 和 0.75 step2：计算整数部分 整数部分是 15，计算得 1111，见下图： step3：计算小数部分 小数部分是 0.75，计算得 0.11，见下图： step4：合并 将整数部分和小数部分拼接得到最终的结果：1111.11 复原：1111.11 -> 15.75 step1：拆分 将整数和小数部分拆分得：1111 和 0.11 s..
double精度丢失总结
kxd828的博客
04-28 3232
这里写自定义目录标题1、double的结构2、double的存储原理3、精度丢失示例4、解决方法
double类型精度丢失问题以及解决方法
热门推荐
UrasakiNakajima的博客
07-21 2万+
口算结果是0.01。可是用程序执行出来的结果却出乎意料，执行结果为0.009999999999999787。然后把15280.000000000002 - 15280 = 1.8189894035458565E-12这个结果返回给了前端,前端拿去和0比较, 结果就炸了原因：就是double的精度问题， 单个double数可能就有损失精度,，多个double数运算（减法和乘法都输入加法）可能导致损失的精度更多。。。
double精度丢失问题
qq_33816117的博客
02-09 667
在Java中，使用double类型时可能会遇到精度丢失的问题。这是由于double类型是一种浮点数类型，在表示某些小数时可能会存在精度损失。这种情况通常是由于浮点数的二进制表示法无法准确地表示某些十进制小数，导致精度丢失。为了避免这种问题，可以考虑使用BigDecimal类来处理精确的十进制数值运算，因为BigDecimal类可以提供更高的精度和控制。另外，尽量避免直接比较两个double类型的值是否相等，而是考虑使用误差范围或者BigDecimal的compareTo方法来进行比较操作。
Double精度丢失问题排查及解决思路
Xiang想
11-02 2780
排查因 Double 引发的精度丢失问题的思路及解决方案，引发对 BigDecimal 的扩展
C语言不同数据类型的混合运算
01-19
在c语言中，数据类型级别由...如果右边的数据类型长度比左边长时，将丢失一部分数据，（如65537用int表示，为0000 0000 0000 0001 0000 0000 0000 0001，转化为short的时候高两位字节丢失，于是变成1），这样会降低精度
Java-关于基本数据类型中浮点数计算产生的精度问题
12-22
在基本数据类型中，float和double都表示浮点型数据，而计算机计算采取的是对二进制的计算，所以会存在一定程度上的精度丢失问题。 BigDecimal类是一个大小数操作类，可以用来对超过16位有效位的数据进行精确的运算，...
Java的8大基本数据类型.pdf
12-24
double数据类型是双精度、64位、符合IEEE 754标准的浮点数；默认值：0.0d，double d = 2.3; 描述整数默认⽤int，描述⼩数默认⽤double。long⼀般⽤于描述⽇期、时间、内存、⽂件⼤⼩，IO处理⼀般使⽤byte 字符型 ...
float_double存储问题
09-05
C语言和C#语言中，对于浮点类型的数据采用单精度类型（float）和双精度类型(double)来存储，float数据占用32bit, double数据占用64bit
Double计算精度丢失（金融入门知识点）
Boush
11-09 7006
Double计算精度丢失（金融入门知识点） 一.double精度丢失 二.为什么double会精度丢失 三.BigDecimal错误的用法 四.BigDecimal正确的用法 Double计算精度丢失（金融入门知识点） 最近工作发现不少同事对于double精度丢失还不了解，对于一些新手java程序员，这倒是还可以理解，但是如果是已经工作了几年的老鸟，还不清楚，那就要抓紧补课了。废话不多说，进入今天的正题。 一.double精度丢失 public static void main(String[..
Java中double类型精度丢失的问题_double类型数据加减操作精度丢失解决方法_BigDecimal取整
qq_43842093的博客
05-23 7685
BigDecimal在用double做入参的时候，二进制无法精确地表示十进制小数，编译器读到字符串"0.0000002"和“1.0000002”之后，必须把它转成8个字节的double值，也就是1.0000001999999998947288304407265968620777130126953125类似这种。 所以，运行的时候，实际传给BigDecimal构造函数的真正的数值是1.0000001999999998947288304407265968620777130126953125。 BigDecima
Java中double类型精度丢失问题
天命王子的博客
05-10 1万+
Java中double 类型精度丢失问题
Double类型数据精度丢失问题
老子（道家）
08-10 1万+
  public BigDecimal(double val) 注： 此构造方法的结果有一定的不可预知性。有人可能认为在 Java 中写入 new BigDecimal(0.1) 所创建的 BigDecimal 正好等于 0.1（非标度值 1，其标度为 1），但是它实际上等于 0.10000000000000000555111512312578270211815834045410156...
Double.valueOf容易出现的问题！
杨明的博客
04-11 1万+
String a = "100"; String b = "100"; System.out.println(Double.valueOf(a)==Double.valueOf(b));//false System.out.println(Double.parseDouble(a)==Double.parseDouble(b));//true
jdk8新特性----Lambda表达式
最新发布
w_t_y_y的博客
05-11 442
Java的Lambda表达式是Java 8引入的一个特性，它支持函数式编程，允许将函数作为方法的参数或返回值，从而简化了匿名内部类的使用，并提供了对并行编程的更好支持。
double类型相加丢失精度
08-30
- *1* *3* [Java中double类型精度丢失的问题_double类型数据加减操作精度丢失解决方法_BigDecimal取整](https://blog.csdn.net/qq_43842093/article/details/124923858)[target="_blank" data-report-click={"spm":...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值