解决LeetCode编译器报错的技巧:正确处理位操作中的数据类型

一天我在leetcode上刷题时,遇到了这样的题目:

随即我写了如下的代码:

int convertInteger(int A, int B) {
    int count = 0;
    int C = A ^ B;
    int flag = 1;
    while(flag)
    {
        if (C & flag)
        {
            count++;
        }
        flag<<=1;
    }
        
    return count;

}

但LeetCode显示如下报错:

 我非常的纳闷,不知道哪里出了错误,我又去VS2022这个编译器上把上述代码试了一遍,发现没有任何报错,这时我就想明白了应该是LeetCode和VS2022这两个编译器的不同导致的。

我去网上搜查资料结果表明只需要将变量flag的类型改为无符号类型即可。

改动后的代码如下:

写法一:

int convertInteger(int A, int B) {
    int count = 0;
    int C = A ^ B;
    unsigned int flag = 1;
    while(flag)
    {
        if (C & flag)
        {
            count++;
        }
        flag<<=1;
    }
        
    return count;

}

在上述代码中,变量flag的类型必须设为unsigned int,是因为在循环中对flag进行左移操作(flag <<= 1)。根据C语言的规则,当对有符号整数进行左移操作时,如果左移操作导致最高位被设置为1,则结果是未定义的行为。这是因为有符号整数使用最高位来表示正负号,而不同的编译器可能对此有不同的处理方式。

因此,为了避免这种未定义行为,我们将flag的类型设置为unsigned int,这样在进行左移操作时,最高位就不再表示正负号,而只是普通的位操作。这样可以确保代码的行为在不同的编译器下都是一致的,并且不会受到符号位的影响。

写法二:

int convertInteger(int A, int B) {
    int count = 0;
    int C = A ^ B;
   for(int i=0;i<32;i++)
    {
        if (C & ((unsigned int)1<<i))
        {
            count++;
        }
    }
    return count;
}

将左操作数1改为unsigned int 类型,原理与写法一的原理一样。


右移和左移是否一样呢?

当对有符号整数进行右移操作时,C语言规定对于正数右移,空出的位应该用0填充;而对于负数右移,空出的位应该用符号位填充。因此,如果使用有符号整数进行右移操作,并且右移导致符号位发生变化,可能会导致不同编译器之间的行为不一致。

通过将类型设置为unsigned int,可以确保在右移操作时,不受符号位的影响,从而避免潜在的问题,保证代码的可移植性和一致性。

因此,无论是左移还是右移操作,使用unsigned int 类型来表示标志位通常是一个比较安全和可靠的选择,保证代码在不同编译器之间的可移植性


  • 18
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 4
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值