抓了一个数据格式表示位数不够的bug,警示

代码是这样的:

新开两个指针:

long *p1=new long;
long *p2=new long;

其中:

*p1=-100000;
*p2=100000;

后面进行计算的时候,
long long res=*p1*(*p2);

得到的结果是:
res=-1410065408

显然,这里*p1被隐式转换成了long,然后两个long相乘,结果溢出了。

正确的结果是:
res=-1E10

在C++ primer第156页讲过,数组会隐式转换为指向第一个元素的指针。
所以,C++将“指向new开辟的动态内存的”指针隐式转换为了long类型。
但是long只有32位。这里会溢出。

所以一种方法是先强制转换:

res=(long long)(*p1)*(long long)(*p2);


当然更好的方法是,把long long定义为int64。

然后开辟64位的存储空间:

int64 *p1=new int64;
int64 *p2=new int64;

int64 res=*p1*(*p2);

完毕。


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值