剑指Offer(第二版)14 - 剪绳子Ⅱ:
快速幂求模算法中浮点数计算失误:
注:175880701 的平方正确答案是 30934020984251401,30934020984251401 对 1e9+7 取模的正确答案是 767713261。
# python3
print(175880701 ** 2) #结果:30934020984251401
print(175880701 ** 2 % (1e9+7)) #结果:767713260.0
print(175880701 ** 2 % 1000000007) #结果:767713261
print(175880701.0 ** 2) #结果:3.09340209842514e+16
print(175880701.0 ** 2 % (1e9+7)) #结果:767713260.0
print(175880701.0 ** 2 % 1000000007) #结果:767713260.0
Python 只有整数与整数之间计算是准确的,整数与浮点数计算,会自动把整数转化为浮点数,整数与浮点数、浮点数与浮点数之间计算都是不准确的。