int 正负相乘

unsigned int   s_value;   

if(s_value >= 0xFFFF)

 {

        s_value = 65535 - s_value + 1 ;
        flag = -1;

      }

测得的s_value为65535,进入if判断后,发现s_value的值不变。

一看才发现我设置的数据类型为unsigned int,改为long int就可以啦!


当int正负相乘的时候,也需要特别注意数据类型是否是unsigned~

uint和int相乘,如果int为负,则相乘的结果非常大 。

unsigned int leftVal = 1;

int   rightVal = -1;

float result = leftVal * rightVal ;

the result is : 4.29497e + 009   .  并不是你想要的“-1”结果。

 

但是如果改为:

int leftVal = 1;

int rightVal = -1;

float result = leftVal * rightVal;

 

the result is : -1    . 得到你想要的-1的结果。

编程的时候要当心这种情况,特别是由于此,而引起的bug .

转载于:https://www.cnblogs.com/l20902/p/10610968.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值