RuntimeWarning: overflow encountered in short_scalars

RuntimeWarning: overflow encountered in short_scalars

 

在做一个较大数据量的加法时碰到这个问题,按理说python可以自动改变数据类型,把int型变成long甚至longlong,但这里没有。。。

 

一个可控的方法是用numpy提供的数据类型。(numpy是专门用于科学计算的库,里面提供了大量的方法、数据类型辅助科学计算)比如:

 

16位的int不够用可以声明为32位的:

 

 

import numpy as np
amplitude_amount = np.int32(0)

 

 他还有诸多类似的数据类型声明,这样就可以自由控制我们对内存和需求的平衡了!

 

 

a = np.int64(0)
b = np.long(0)
c = np.longlong(0)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值