博主在刷Leetcode和NowCoder的过程中,经常遇到要把int型数值取绝对值。但如果不对最小值Integer.minValue进行处理往往会报错。
出错的原因:
int的范围是-2147483648-2147483647,-2147483648直接取绝对值会溢出。
解决办法:
1.取绝对值之前,先把数据类型由int转化为long
2.对最小值进行特殊处理
代码:
代码是LeetCode第50题实现Pow函数的Java代码,采用的是第二种解决办法。
public class MyPow {
public double myPow(double x, int n) {
double res=1;
if(equal(x,0.0)&&n<0)
{
throw new RuntimeException("输入有误");
}
else if(equal(x,0.0))
{
return 0;
}
else if(n==0)
{
return 1;
}
else if(n==1)
{
return x;
}
else
{
if(n==Integer.MIN_VALUE)
{
n=n+1;
res*=x;
}
//最小值要特殊处理处理,直接转化为正数会有溢出的问题,也可以把n转化为long
res*=myabsPow(x,Math.abs(n));
if(n<0)
res=1/res;
return res;
}
}
private double myabsPow(double x, int n)
{
if(n==0)
return 1;
if(n==1)
return x;
double result=myabsPow(x,n>>1);
result*=result;
if((n&1)==1)
{
result*=x;
}
return result;
}
private boolean equal(double x1,double x2)
{
if(Math.abs(x1-x2)<0.0000001)
{
return true;
}
else
return false;
}
}