mysql做乘法运算溢出_乘法溢出及对策

博客讨论了在MySQL中遇到的两次乘法运算溢出问题,包括一个递归函数中的乘法溢出和一个涉及质数的乘法运算溢出。作者详细解释了错误发生的原因,并提出了两种解决方案:一是将变量类型扩展为`long long`,二是使用对数取整的方法来避免浮点数精度损失带来的误差。这两种方法均能有效防止因乘法运算导致的溢出错误。
摘要由CSDN通过智能技术生成

最近几次碰到乘法溢出,

情况一:

下面是修订后的版本

void dfs(int pos, int lim, int val, int div)

{

int i,j;

if(pos>prime[0]||prime[pos]>lim) return;

int t=prime[pos];

for(i=1,j=1; i<=lim/t;j++){

i*=t;

divisor[val*i]=div*(j+1);

dfs(pos+1,lim/i,val*i,div*(j+1));

}

dfs(pos+1,lim,val,div);

}

原来的版本是for(i=1,j=1; i*t<=lim;j++),结果i*t溢出变成负数导致divisor[val*i]的下标为负

情况二多一个乘法,导致顾此失彼: LIMIT 是500000,在下面的for循环

for(t=prime[ob.ind];t<=LIM/ob.cur;t*=prime[ob.ind])

t是第4793个质数46349,ob.cur为8,导致t*=prime[ob.ind]会产生乘法溢出(超过2^31-1),其实t<=LIM/ob.cur已经是为了避免乘法溢出的做法,结果还是没有考虑到后面的乘法。

程序运行最终产生了access violation(VC),因为divs[t*ob.cur]的下标出现了一个大负数。

解决的办

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值