奇奇怪怪的python运用1:实现c++中(unsigned int)(pow(x, y))

        如题,看似很简单的一个计算公式 z = (unsigned int)(pow(x, y)) ,x、y都为unsigned char,使用python实现时,确是暗藏一个坑,中间出现一些莫名其妙的错误,导致数据一直无法计算正确。而对方是一个校验计算中的一个步骤,如果不一致,此时无法正确校验。

        起初,我直接使用python基础的pow函数进行计算,如下:        

def calc(x, y):
    return int(pow(x,y)) & 0xffffffff

        但是这样计算,在数据量较大情况下如x=201,y=16的情况下,该函数直接返回的是0,但是python计算出的结果确是:192047745,两者出现不一致情况。

        苦思冥想,做了各种实验都无法正确得出结果,最终查看c++的pow的说明,发现该函数返回结果为double,而double类型是有精度限制的,精度最高只有53个bit位,造成了该问题,最终通过使用numpy科学计算,来解决这个问题,代码如下:

import numpy as np

def calc(x, y):
    n = np.float_power(np.uint8(x), np.uint8(y))
    return np.uint32(n)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值