python | 关于计算机内小数不精确的问题

原因解释:

浮点数(小数)在计算机中实际是以二进制存储的,并不精确。
比如0.1是十进制,转换为二进制后就是一个无限循环的数:
0.00011001100110011001100110011001100110011001100110011001100
python是以双精度(64bit)来保存浮点数的,后面多余的会被砍掉,所以在电脑上实际保存的已经小于0.1的值了,后面拿来参与运算就产生了误差。

解决办法:

使用decimal库

python中的decimal模块可以解决上面的烦恼 
decimal模块中,可以通过整数,字符串或原则构建decimal.Decimal对象。如果是浮点数,特别注意因为浮点数本身存在误差,需要先将浮点数转化为字符串。
当然精度提升的同时,肯定带来的是性能的损失。在对数据要求特别精确的场合(例如财务结算),这些性能的损失是值得的。
但是如果是大规模的科学计算,就需要考虑运行效率了。毕竟原生的float比Decimal对象肯定是要快很多的。

Python提供了decimal模块用于十进制数学计算,它具有以下特点:
1.提供十进制数据类型,并且存储为十进制数序列;
2.有界精度:用于存储数字的位数是固定的,可以通过decimal.getcontext().prec=x 来设定,不同的数字可以有不同的精度
3.浮点:十进制小数点的位置不固定(但位数是固定的)

例子:
from decimal import *
a = Decimal('4.2')
b = Decimal('2.1')
c = a * b

注意:当精度提升的同时,也必然牺牲性能。有时候是值得的,比如在财务对数据精度要求比较高的情况下。

浮点数一个普遍的问题就是在计算机的世界中,浮点数并不能准确地表示十进制。并且,即便是最简单的数学运算,也会带来不可控制的后果。因为,在计算机的世界中只认识0与1
因为在计算机里面,小数是不精确的,例如1.115在计算机中实际上是1.1149999999999999911182,所以当你对这个小数精确到小数点后两位的时候,实际上小数点后第三位是4,所以四舍五入,因此结果为1.11。
这种说法,对了一半。因为并不是所有的小数在计算机中都是不精确的。例如0.125这个小数在计算机中就是精确的,它就是0.125,没有省略后面的值,没有近似,它确确实实就是0.125。
但是如果我们在Python中把0.125精确到小数点后两位,那么它的就会变成0.12,为什么在这里四舍了?

还有更奇怪的,另一个在计算机里面能够精确表示的小数0.375,我们来看看精确到小数点后两位是多少:,为什么这里又五入了?因为在Python 3里面,round对小数的精确度采用了四舍六入五成双的方式。
 

如果你写过大学物理的实验报告,那么你应该会记得老师讲过,直接使用四舍五入,最后的结果可能会偏高。所以需要使用奇进偶舍的处理方法。
例如对于一个小数a.bcd,需要精确到小数点后两位,那么就要看小数点后第三位:   如果d小于5,直接舍去;如果d大于5,直接进位;
如果d等于5:d后面没有数据,且c为偶数,那么不进位,保留c。d后面没有数据,且c为奇数,那么进位,c变成(c + 1)

参考资料:

​​​​​​Python浮点数(小数)运算误差的原因和解决办法 - 忧郁白衬衫 - 博客园 (cnblogs.com)

【Python】浮点数计算时的不准确性以及如何进行精确计算_sinat_37967865的博客-CSDN博客_python计算浮点数不准确

  • 2
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Python中整数和浮点数是两种不同的数据类型,它们的内部表示方式也不同。在Python中,整数采用的是定点数表示法,它们的精度是固定的,而浮点数采用的是浮点数表示法,它们的精度是可变的。在进行整数减小数的运算时,Python会将整数转换成浮点数进行计算,这就会涉及到浮点数的精度问题。 由于浮点数的精度是可变的,因此在进行浮点数计算时,可能会出现舍入误差,导致计算结果不准确。例如,当我们进行整数减小数的计算时,可能会出现类似下面的情况: ``` >>> a = 1 >>> b = 0.1 >>> c = a - b >>> print(c) 0.9 ``` 我们期望的结果是0.9,但实际上计算结果是0.8999999999999999,这是由于浮点数精度的限制导致的。 为了避免这种情况,可以使用Decimal类型进行精确计算。Decimal类型采用的是十进制表示法,它可以表示任意精度的小数。例如,使用Decimal类型进行上面的计算,可以得到如下结果: ``` >>> from decimal import Decimal >>> a = Decimal('1') >>> b = Decimal('0.1') >>> c = a - b >>> print(c) 0.9 ``` 这里我们将整数和小数都转换成了Decimal类型,这样可以保证计算结果的精确性。 ### 回答2: Python中整数减小数不准确的原因是因为浮点数在计算机中的存储和表示方式造成的。 计算机中使用二进制来存储浮点数,而浮点数的小数部分无法用二进制精确地表示。例如,十进制的0.1无法用二进制精确表示,因为0.1的二进制表示是一个无限循环的小数。因此,当整数和小数进行减法运算时,可能存在精度损失。 举个例子,假设有一个整数5和一个小数0.1,我们希望计算5减去0.1的结果。但是由于0.1无法用二进制精确表示,所以在计算机中,它实际上被近似存储为一个非精确的二进制数。当我们执行减法操作时,计算机会使用这些近似值进行计算,导致最终的结果可能存在误差。 另外,计算机在进行浮点数计算时,还可能会涉及到舍入错误、截断误差问题,这也会导致减法结果的不准确性。 为了避免减法运算的不准确性,可以使用其他方法进行计算,比如使用Decimal模块中的Decimal类型来进行精确的十进制计算。这种方法可以更好地处理小数计算的精度问题,但也会增加计算的复杂性和时间开销。 总之,Python中整数减小数不准确是因为浮点数在计算机中的存储和表示方式导致的,可通过使用Decimal类型等方法来处理精度问题。 ### 回答3: Python中的整数减小数不准确是由于浮点数的精度问题引起的。在计算机中,浮点数的表示方式采用的是二进制浮点数表示法,而不是精确的十进制表示。 在二进制浮点数表示法中,数字被表示为一个带有小数点的二进制数,并且使用有限位数的二进制表示。这就导致了在表示某些小数时可能会存在精度损失。 例如,当我们进行整数减小数的运算时,计算机小数转换为二进制浮点数,然后进行减法运算。但由于浮点数的二进制表示不能精确地表示所有的小数,因此在运算过程中可能会出现舍入误差。 这种舍入误差是由于计算机无法准确表示一些十进制小数的二进制表示,特别是无限循环小数和无限不循环小数。这就导致了在整数减小数的运算中,计算结果可能会出现小数点后的位数不准确或舍入误差。 为了解决这个问题,可以考虑使用Decimal模块提供的高精度十进制浮点数对象进行运算。Decimal模块可以提供更高的精度和准确性,以避免由于浮点数的精度问题导致的计算误差
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值