想起之前遇到一个有趣的bug,非常值得记录下来。
项目使用的协议需要指定参数类型,出错协议的某个参数设为int,传参时该参数默认为(1<<32 - 1),大部分时候不会用到默认数值,但万一的情况出现了,然后就报错了。
分析:(1<<32 - 1)这个运算过程中,优先计算(1<<32),这时超出int的范围,python源码将此变量自动转换为long,再减去1后,类型依然是long。
解决方案:int(1<<32 - 1)即可
想起之前遇到一个有趣的bug,非常值得记录下来。
项目使用的协议需要指定参数类型,出错协议的某个参数设为int,传参时该参数默认为(1<<32 - 1),大部分时候不会用到默认数值,但万一的情况出现了,然后就报错了。
分析:(1<<32 - 1)这个运算过程中,优先计算(1<<32),这时超出int的范围,python源码将此变量自动转换为long,再减去1后,类型依然是long。
解决方案:int(1<<32 - 1)即可