python除法相关

最新推荐文章于 2022-01-09 19:58:53 发布

南征_北战

最新推荐文章于 2022-01-09 19:58:53 发布

阅读量148

点赞数

分类专栏：算法

本文链接：https://blog.csdn.net/weixin_42141116/article/details/102560938

版权

算法专栏收录该内容

19 篇文章 3 订阅

订阅专栏

python 除法相关

python3除法取整
利用"//"操作

a = 5.5
b = 2
print(a//b)

# 结果
2

python3精确减法与精确除法

a = 0.9
b = 1

print(b-a)
print((b-a)/100)
print((0.1)/100)

# 结果
0.09999999999999998
0.0009999999999999998
0.001

python计算要把数字先转为二进制，因为浮点数以二进制形式表示时的有穷性(利用乘K取余法，0.9的二进制无限延展)，会导致计算误差。

这时候为了实现精确运算，可以使用类decimal。

import decimal
decimal.getcontext().prec = 10   # 取小数点后精度到第10位
a = 0.9
b = 1

print(decimal.Decimal(b)-decimal.Decimal(a))
print((decimal.Decimal(b)-decimal.Decimal(a))/100)
print((0.1)/100)

# 结果
0.1000000000
0.0010000000
0.001