double类型运算精度丢失

前段时间看了一点python入门,写了几个运算的例子,就发现浮点数进行运算的结果并不是期望的,而是接近与期望的一个数。比如期望结果是2.4,那么实际结果可能是2.333333339,当时参考的资料上说不用在意这个,由于是入门,我也就没太在意,就当是python自己的一个问题吧。昨天在网上闲逛,又无疑碰到了这个问题,不过这个是在java下发生的。于是写了点例子,发现这个问题并非与特定语言有关,而是与计算机底层实现有关,下面就说一下这个问题。
需要注意,如果在java中使用浮点数,则默认为double。如果需要使用float,在浮点数后面加f。
public class Test {

public static void main(String[] args) {
System.out.print("直接输出2.4:");
System.out.println(2.4);
System.out.print("2.4/0.1:");
System.out.println(2.4/0.1);
System.out.print("(2.4-0.2)/0.1:");
System.out.println((2.4-0.2)/0.1);
System.out.print("直接输出2.2:");
System.out.println(2.2);
System.out.print("2.2/0.1:");
System.out.println(2.2/0.1);
System.out.print("(2.2+0.2)/0.1:");
System.out.println((2.2+0.2)/0.1);
System.out.print("2.2+0.2:");
System.out.println(2.2+0.2);
}
}

输出结果:
直接输出2.4:2.4
2.4/0.1:23.999999999999996
(2.4-0.2)/0.1:21.999999999999996
直接输出2.2:2.2
2.2/0.1:22.0
(2.2+0.2)/0.1:24.000000000000004
2.2+0.2:2.4000000000000004


我们从源代码和输出的结果进行分析。首先从结果可以知道直接输出浮点数2.2和2.4没有问题,一切正常。但是2.4/0.1我们期望应该是输出24,却输出了23.999999999999996;同样的,(2.4-0.2)/0.1期望输出是22,实际输出是21.999999999999996,(2.2+0.2)/0.1也是同样的情况。这些现象说明我们得到了非期望值,一个“错误的结果”,也就是说,在计算过程中发生了精度丢失。
前面说过,我在python中也有这样的问题,所以这种现象并不针对某种语言,而是计算机的实现造成的。众所周知,计算机只能识别二进制,所以我们的一切数据最后都转化为二进制来实现。我们发现,直接输出2.4和2.2并没有任何问题,但是一旦让其参与运算就会出错,因此精度丢失是发生在”运算“过程中的。
浮点数由两部分组成,指数和尾数。如果在转换过程中进行了运算,那么所得结果将不可知,不能保证二进制能正好准确转换为十进制。其原理参见其他参考书。
如何处理这种情况呢,可以用BigDecimal,具体使用参见JavaAPI。
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值