numpy的整型数值溢出陷阱

numpy中的ndarray对于数值对象的数据类型具有严格要求,比如,假设一个数据类型为int32的ndarray,且数值较大,那么再继续对其做平方运算,假设平方运算之后的值已经超出了32位整型的最大范围,那么就会造成数值溢出。问题在于,numpy中对这个数值溢出并不是直接报错,而是会返回一些垃圾值,甚至有可能出现负值,这就使得运算结果无法预期,从而出错。但这个现象并不会出现在创建生成ndarray中,如果创建ndarray时,数值已经超出了指定数据类型的最大范围,那么numpy会报overflow异常。
数值溢出问题一般只出现在整型中,因为浮点数能表示的范围很大(不是指精度),若非刻意,比较难溢出。对于整型溢出问题,可以在创建ndarray时,指定数据类型为object,保持python原生的int类型,因为python原生的int类型具有无限的范围,不会溢出。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值