python算小数错误原因_Python浮点数的计算错误,python,计算误差,问题

python精确计算

在python中浮点数计算是不精确的的,这是因为小数以二进制形式表示时的有穷性导致的。想要精确计算浮点数,需要调用decimal这个模块,decimal是十进制类型

75d1d073e7d13bdf71be843e8354bf6c.png

decimal.Decimal(x) #x可以是一个整数或字符串,但不能是浮点数

import decimal

a = decimal.Decimal(9876)

b = decimal.Deciaml(“54321.01234567898754321”)

a + b

Decimal(‘64197.012345678987654321’)

decimal.Deciaml.from_float(x); #x可以是一个浮点数

Deciaml.from_float(0.1)

Decimal(‘0.1000000000000000055511151231257827021181583404541015625’)

Decimal.from_float(float(‘nan’));

Decimal(‘NaN’)

Decimal.from_float(float(’-inf’));

Decimal(’-Infinity’)

Python 中的 float 类型使用C语言的 double 类型进行存储。 float 对象的值是以固定的精度(通常为 53 位)存储的二进制浮点数,由于 Python 使用 C 操作,而后者依赖于处理器中的硬件实现来执行浮点运算。 这意味着就浮点运算而言,Python 的行为类似于许多流行的语言,包括 C 和 Java。

许多可以轻松地用十进制表示的数字不能用二进制浮点表示。例如,之后:

x = 1.2

为 x 存储的值是与十进制的值 1.2 (非常接近) 的近似值,但不完全等于它。 在典型的机器上,实际存储的值是:

1.0011001100110011001100110011001100110011001100110011 (binary)

确切地说:

1.1999999999999999555910790149937383830547332763671875 (decimal)

典型的 53 位精度为 Python 浮点数提供了 15-16 位小数的精度。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值