为啥有时会出现 4.0 - 3.6 = 0.40000001 这种现象?

这种现象是由于浮点数在计算机中表示的方式导致的,主要是因为计算机使用二进制系统来存储浮点数,而某些十进制的小数无法被精确地表示为二进制数。这种不精确性会在执行算术运算时导致微小的误差。

浮点数在计算机中通常使用 IEEE 754 标准来表示。一个浮点数由三个部分组成:

  • 符号位:表示正数或负数。
  • 指数部分:表示浮点数的数量级。
  • 尾数(或称为有效数):表示浮点数的具体数值。

当你执行 4.0 - 3.6 这样的操作时,计算机实际上是在操作两个近似值:

  • 4.0 在二进制中可以精确表示。
  • 3.6 在二进制中是一个无限循环的小数,计算机只能使用一个近似值来表示它。

由于 3.6 只能近似表示,减法操作的结果也会产生近似值,而这个近似值可能不是你期望的精确结果,导致出现像 0.40000001 这样的结果。

解决方案

1. 四舍五入:对计算结果进行四舍五入操作,以得到期望的精度。例如,如果你只关心小数点后两位,可以使用四舍五入来避免显示微小的误差。

double result = 4.0 - 3.6;
System.out.printf("%.2f", result);  // 输出 0.40

2. 使用 BigDecimal:在需要高精度计算时,可以使用 BigDecimal 类来进行浮点数运算,它允许指定精度,并且能避免大部分的二进制浮点数误差。

BigDecimal a = new BigDecimal("4.0");
BigDecimal b = new BigDecimal("3.6");
BigDecimal result = a.subtract(b);
System.out.println(result);  // 输出 0.4

 浮点数在计算机中的表示和运算有固有的近似性,这是由于二进制系统无法精确表示某些十进制小数。理解这种近似性并采取适当的措施(如使用四舍五入、BigDecimal 或容差比较)可以帮助你处理浮点数计算中的误差问题。

  • 3
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

XF鸭

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值