关于double精确度的简单问题

(1)测试TestDouble.java结果 

 

 

结果:如图,使用double类型的数据进行运算时结果是不准确的。

原因:double类型的数值占用64bit,即64个二进制数,除去最高位表示正负符号的位,在最低位上一定会与实际数据存在误差(除非实际数据恰好是2的n次       方)。

(2)测试TestBigDecimal.java结果

结果:如图,用字符串类型计算的数据是对的,而double类型依旧是不对的。

原因:对于double型,小数点后面是0的话,精度就是0;小数点后面不是0,则取决于整数位的位数,整数位越多,精度越小;当整数位接近15位时,精度就       趋于0,再多1位数据可能开始溢出(具体情况取决于double类型的数值表示)。

      对于字符串类型的构造函数,小数点后面有几位,精度就是几位,而且几乎没有位数限制。

(3)区分连接符与加号

结果:先输出字符串则后面也是字符串形式;先输出加法运算则正常运算。

原因:在System.out.println()中,如果在string字符串后面是+和变量,会把变量转换成string类型,加号起连接作用,然后把两个字符串连接成一个新的       字符串输出;

      如果先有变量的加减运算再有字符串,那么会从左到右先计算变量的加减,然后再与后面的string结合成一个新的字符串。也就是说加号只有在两个         string类型或者其中一个是string类型的时候才起到连接作用,否则仍然是运算符。

 

转载于:https://www.cnblogs.com/YXSZ/p/9749582.html

Java中的简单浮点数类型float和double存在计算精度问题。这是因为在大多数编程语言中,包括Java在内,无法对浮点数进行精确运算。换句话说,浮点数的计算结果可能会存在一定的误差。这是由于浮点数的内部表示方式和计算机在处理浮点数时的舍入误差所导致的。 为了解决这个问题,可以使用Java提供的BigDecimal类来进行精确的浮点数运算。BigDecimal类可以处理任意数的整数和小数,并且提供了加减乘除和四舍五入等常用操作。使用BigDecimal时,建议使用字符串来构造BigDecimal对象,以避免由于浮点数的内部表示方式引起的误差。 如果你需要进行浮点数的加减乘除和四舍五入等操作,可以使用工具类Arith来简化操作。Arith类提供了一系列静态方法,包括add、sub、mul、div和round等方法,可以方便地进行浮点数的精确计算。 因此,如果你在Java中遇到了浮点数计算精度问题,可以使用BigDecimal或Arith类来解决这个问题。这样可以确保计算结果的精度和准确性。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* *3* [在Java中实现浮点数的精确计算](https://blog.csdn.net/zhouysh/article/details/393561)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值