对于浮点数运算误差的理解

def cni(n, i):

    minNI = min(i, n-i)

    result = 1

    for j in range(0, minNI):

        result = result * (n-j) // (minNI-j)

return result

如上,这段代码试图计算组合数Ci n,但是由于浮点数除法时精度问题导致结果错误,

C2 5 = 10,但是以上代码计算C2 5的结果是8(cni(5, 2)),为什么?

原因:通过对上述代码进行观察我们可以发现在代码第五行的运算中出现了“//”符号,该运算符所代表的含义是整除,会使得运算结果被截断为整数,丢失小数部分。

           而对代码进行具体分析可知计算cni(5, 2)的结果经历了两次循环,第一次为result=1*5//2=2,第二次为result=2*4//1=8,问题出现在第一次循环中舍去了小数部分0.5,最终导致结果错误。

正确方案:我们只需将“//”符号修改为“/”符号,在运算时保留小数部分即可得到正确答案。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值