浮点数之间数值比较可能遇到的问题

浮点数在二进制下无法精确表示,导致比较时常出现误差。使用`==`比较浮点数可能存在错误,应使用BigDecimal的`compareTo`方法或设定误差范围进行比较。示例代码展示了浮点数比较的错误与BigDecimal正确比较的方式。
摘要由CSDN通过智能技术生成

一、问题描述

示例代码1

		float a = 1.0F-0.9F;
		float b = 0.9F-0.8F;
		System.out.println(a==b);
		Float aa = Float.valueOf(a);
		Float bb = Float.valueOf(b);
		System.out.println(aa.equals(bb));

执行结果

false
false

示例代码2

		BigDecimal a = new BigDecimal("1.0").subtract(new BigDecimal("0.9"));
		BigDecimal b = new BigDecimal("0.9").subtract(new BigDecimal("0.8"));
		System.out.println(a.compareTo(b)==0);

执行结果

true

二、问题分析

浮点数采用“尾数+阶码”的编码方式,类似于科学计数法的“有效数字+指数”的表示方式。二进制无法精确表示大部分的十进制小数,所以数据会存在误差,在实际比较中采用==进行比较容易出问题。

三、解决方案

1、使用BigDecimal的compareTo方法进行比较

如上述示例代码2

2、指定误差范围,两个浮点数的差值在该误差范围内视为相等,该方法存在风险

代码示例

		float a = 1.0F-0.9F;
		float b = 0.9F-0.8F;
		float diff = 1e-6F;
		System.out.println(Math.abs(a-b)<diff);
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值