C++ 踩坑 int和unsigned int类型数据运算结果比较结果错误

文章讨论了在C++项目中,int与unsignedint类型运算导致的结果错误,原因是整数提升和溢出。解决办法是确保相同类型的变量进行运算。
摘要由CSDN通过智能技术生成

一、背景:

在最近项目中,遇到了不用类型变量之间做运算后,对结果进行比较结果可能错误的问题。

具体如下:
int a = 111;
unsigned int b = 222;
if (a-b>2) {
}
在上述例子中,a-b= -111,但是if判断里面a-b>2为true值。
而实际上需求应该是 -111 < 2,造成结果错误。

二、问题原因:

在C++中,进行 int 类型减去 unsigned int 类型的操作时,会发生整数提升和带符号整数溢出的问题。

整数提升指在进行运算时,较小的整数类型会被提升为较大的整数类型。在这个情况下,int 会被提升为 unsigned int。然后,由于 unsigned int 是无符号类型,它不支持负值,因此在减法操作中可能导致溢出。

在该问题中,由于a是int类型,b是 unsigned int 类型,a-b运算结果会变为 unsigned int类型,不支持赋值。

三、解决方法:

1、建议使用同一种类型,比如int类型进行运算和比较

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值