float计算丢精度_float类型进行计算精度丢失的问题

今天一个案子,用户反映数量差异明明是 2.0-1.8,显示的结果却为0.20000005,就自己写了段方法测试了一下:

package test1;

public class Test2 {

/**

* @param args

*/

public static void main(String[] args) {

Float xx = 2.0f;

Float yy = 1.8f;

Float tt = xx - yy;

System.out.println("tttttt-----" + tt);

}

}

果然输出结果是: tttttt-----0.20000005

再测试了几个float类型的减法,除了*.0这样的相减没有异议之外,都存在这个问题,就是说float在相减的时候精度丢失了。后来在网上找到一段解决这个问题的办法,记在这里:

package test1;

import java.math.BigDecimal;

public class Test2 {

/**

* @param args

*/

public static void main(String[] args) {

Float xx = 2.2f;

Float yy = 2.0f;

Float tt = xx - yy;

BigDecimal b1 = new BigDecimal(Float.toString(xx));

BigDecimal b2 = new BigDecimal(Float.toString(yy));

float ss = b1.subtract(b2).floatValue();

System.out.println("ssss----" + ss);

System.out.println("tttttt-----" + tt);

}

}

输出为:

ssss----0.2

tttttt-----0.20000005

这样一对比,差异就很明显了。

解决了问题,再找了一下为什么会产生这种差异:

问题提出:12.0f-11.9f=0.10000038,"减不尽"为什么?

现在我们就详细剖析一下浮点型运算为什么会造成精度丢失?

1、小数的二进制表示问题

首先我们要搞清楚下面两个问题:

(1) 十进制整数如何转化为二进制数

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值