剑指Offer(第二版)14 - 剪绳子Ⅱ:快速幂求模算法中浮点数计算失误

博客讨论了Python中整数与浮点数计算的精度问题,特别是在快速幂求模算法中出现的浮点数计算失误。举例说明了175880701的平方在不同取模情况下的结果,指出Python整数运算的准确性与浮点数运算的不精确性,并提醒开发者注意这种潜在的计算误差。
摘要由CSDN通过智能技术生成

剑指Offer(第二版)14 - 剪绳子Ⅱ:

快速幂求模算法中浮点数计算失误:


注:175880701 的平方正确答案是 30934020984251401,30934020984251401 对 1e9+7 取模的正确答案是 767713261。

# python3

print(175880701 ** 2)  						#结果:30934020984251401
print(175880701 ** 2 % (1e9+7))				#结果:767713260.0
print(175880701 ** 2 % 1000000007)			#结果:767713261
print(175880701.0 ** 2)						#结果:3.09340209842514e+16
print(175880701.0 ** 2 % (1e9+7))			#结果:767713260.0
print(175880701.0 ** 2 % 1000000007)   		#结果:767713260.0

Python 只有整数与整数之间计算是准确的,整数与浮点数计算,会自动把整数转化为浮点数,整数与浮点数、浮点数与浮点数之间计算都是不准确的。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值