负数居然比正数大?无符号整型与整形混用的后果

在编程过程中,未注意类型差异,将文件大小定义为unsigned int并进行减法操作。在压力测试下,出现负数比正数大的错误现象。原因是负数在作为无符号整数比较时发生了位拓展。通过查看汇编代码,明确了无符号整数比较指令(jae)导致-1大于5的情况。使用int型变量则能得到正确结果,汇编指令(jpe)比较有符号整数,避免了问题。
摘要由CSDN通过智能技术生成

在之前写一个代码的过程中,没有注意细节,对于一个文件的大小,就默认定义为unsigned int类型了,然后,每次遍历一段之后,就减去遍历的长度,这个unsigned int类型的值,在正常的测试下,并没有出现什么问题,但是到了真正的压力测试,大量的fuzzer来进行测试的时候,出现了一个看起来很奇怪的bug,正数居然比负数小?这是什么原因?我们看看下面的代码:

	int v1 = -1;
	unsigned int v2 = 5;
	if (v2 < v1)
	{
   
		printf("error\n");
	}
	else
	{
   
		printf("rigth\n");
	}

按照我们的思路,该代码输出的肯定是right,因为很明显5比-1要大。但是最终输出的结果是:
在这里插入图片描述
说明在比较的时候,确实-1大于了5?为什么会这样呢?接下来我们来看一段汇编:

	int v1 = -1;
00A5180E  mov         dword ptr [v1],0
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

KookNut39

感谢您请我喝咖啡哈哈哈哈

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值