0减1等于几？小学生都知道，而计算机却常干傻事。本文介绍一种和数据类型相关的编程Bug，分析Bug现象和产生原理，做为小小的Debug经验与大家分享。
前几天用VC写了个程序，程序中有个遍历列表的功能。使用vector作为列表的数据结构，用一个整型数CurIndex记录当前记录。当用户点击向前按钮时，CurIndex减1，如果CurIndex已经是第一个元素了，就让CurIndex转向最后一个元素。
变量声明如下：
vector<ItemType> Vector;
int CurIndex;
在用户点击向前按钮时，调用下面的函数：
void MovePre()
{
--CurIndex;
if (CurIndex<0)
CurIndex = Vector.size()-1;
}
这段程序有个问题：当Vector为空是，Vector.size()为0，这时界面显示CurIndex为-1。为了避免CurIndex为-1，把 MovePre的代码改为如下：
void MovePre()
{
--CurIndex;
if (CurIndex<0)
CurIndex = max(0, Vector.size()-1); // 这里使用max宏
}
按预期，当Vector为空时，CurIndex的值应该为0。然而实际结果是CurIndex仍然为-1。单步调试，的确执行了相应的语句，但CurIndex的就是不变的-1，重新编译也没用。这是不是很奇怪呢？
如果Vector.size()-1的结果小于0，那么max(0, Vector.size()-1)的结果就应该是0；
如果Vector.size()-1的结果比0大，那么max(0, Vector.size()-1)的结果就应该是个正整数才对。
然而实际结果确是-1。0减1比0大，并且等于-1？多么矛盾呀！
如果您看了下面的语句，也许就矛塞顿开了：
int CurIndex = max( 0, (unsigned int)0-1);
您认为CurIndex应该等于几呢？
当0减去1的时候，它的结果化为16进制，应该为0x ff ff ff ff（假设为4字节）。作为有符号整数，它的值为-1。而做为无符号整数，它的值为4294967295（使用Windows自带的计算器算的）。
按C++的隐式类型转换规则：程序在执行算术运算时，低类型向高类型转换。这时(unsigned int)0-1的值为4294967295。显然这个值比0大，所以max( 0, (unsigned int)0-1)的计算结果应该为4294967295，即0x ff ff ff ff，类型为无符号整型（unsigned int）。
当把这个结果赋值给CurIndex时，CurIndex是int型的，使用另一条C++的隐式类型转换规则：在赋值表达式中，右边表达式的值自动隐式转换为左边变量的类型，并赋值给它。0x ff ff ff ff当做整型赋值，结果就是-1。所以CurIndex的值为-1，16进制仍然是0x ff ff ff ff。
vect类的size()函数返回值就是无符号型的，所以CurIndex = max(0, Vector.size()-1)的值可能为-1就不奇怪了。
所以0减1等于几，还得看是什么类型的0，以及什么类型的1。
0-1 == -1；
(unsigned int)0-1 == 4294967295；
Bug一不小心就跑出来，借用范厨师的话：真是防不胜防呀！
作者：苏林
发表于 @ 2008年01月24日 16:11:00|评论(loading...)|编辑