错误用法:
if (0 == (BYTE)memcmp(A, B, sizeof(A)))
代码:
bCmpValue = memcmp(&A, &B, sizeof(structA));
当buf1<buf2时,返回值小于0
当buf1==buf2时,返回值=0
当buf1>buf2时,返回值大于0
BYTE是无符号char类型,一个无符号int 等于4个BYTE
问题描述:
由上面可以看出,对比较结果做了强制转换,这样是有问题的。测试中发现,偶尔会出现 A 和 B不相等,但比较结果为0!
分析:
如果是一个很大的数,然后正好低位字节转成0了,比如8192,256。就会出现问题!(256转成十六进制:0x0100)
实测,A和B比较,AB值不同,memcmp返回值也不同,但不是随机数,是固定的值,范围都是在int 的大于0/小于0/等于0范围中。
即,如果A和B的值是固定的,则比较多次memcmp返回的值都是固定的。
反思:
该问题之所以发生,是我们平时写C语言时的不规范。
我们一般直接喜欢这样写代码:
BYTE A = memcpy(******); 等价于 (BYTE)memcmp,都是进行了强转
规范写法:
BOOL value = (0 == memcmp(*)) ,设置bool 变量等于一个条件值。
区别于错误用法,BYTE value = memcmp(*)