INT整型最小值取负还是本身的问题

在刷LeetCode题目powx-n遇到。


 

题目描述

Implement pow(xn).



public
double pow(double x, int n) { if (n == 0) return 1; else if (n < 0) return pow(1 / x, -n)); else if (n % 2 == 0) return pow(x * x, n / 2); else return x * pow(x * x, n / 2); }

测试用例:(x, -2147483648) 无法通过

原因:-2147483648(整型最小值)取负等于本身。

Integer.MIN_VALUE是-2147483648,是-2147483647减1得到,-2147483647的原码是0xFFFFFFFF,补码是0x80000001。-2147483648的原码是由-2147483647的原码的非符号位减1溢出,得到原码为0x80000000。符号位不变, 其余各位取反, 最后+1,得到补码0x80000000,和原码一样。
当计算机进行取负操作时,是将补码的每一位取反然后+1(通常这么记:-n = ~n + 1)。0x80000000按每位取反后是0x7FFFFFFF,加一之后还是0x80000000,所以-2147483648取负还是-2147483648。

代码修改如下

public double pow(double x, int n) {
    if (n == 0) return 1;
    else if (n < 0) return 1 / x * pow(1 / x, -(n + 1));
    else if (n % 2 == 0) return pow(x * x, n / 2);
    else return x * pow(x * x, n / 2);
}

 

转载于:https://www.cnblogs.com/yfzhou/p/10930744.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值