VS2005 英文版 SP1
XP SP3
程序中有个可能有个值被算得无穷大了,导致整个模型都超级变形了。后来猜测是树模型的半径值被算得太大。
而这种情况只有程序在release时直接运行跑起来才会有错,其它时候都不会有错,
这样在release下根本没法调试,变量的值都看不到,只能靠猜,并输出值到文本文件中来查看。
涉及到的问题:浮点型精度,数组越界,debug和release下运行的区别,
浮点型精度:
计算机的精度是有限的,可能某个浮点型的值是0.999998,在计算机中它指的可能就是1,
但如果我们在做判断时把它跟1来做比大小时,得到的条件判断却又是比1小,这样就会存在问题了。
在一些精度要求较高的地方,我们可以把这些计算出来的值做一个纠正,
例如: if (fabs(x-1.0f)<1e-6) x = 1.0
数组越界:
当时的代码是float TempPoint[1000][2];,申请了一千位,实际只用了50位,而第51位由于没有初始化,
即使当时想初始化,也不知道初始化哪个值比较适合当时的情况,造成后面的代码访问到第51位的值,造成了严重的错误。
这样的错误在release直接运行时才会报错,而在调试时却不会有错,
可能是在调试时编译器给那些没初始化的值默认了一个值吧,这要看下debug和release时的区别。
最好是要用多少位就申请多少位的数组,或者可以这样float TempPoint[][2];,到具体要用时再直接赋值来确实要用多少位。
当时越界的代码:
for (k = 0; k < m_bz.m_number - 1; k++)
{
if ( x >= m_bz.TempPoint[k][0] && x <= m_bz.TempPoint[k+1][0])
break;
}
以上代码要是都没有break,k的值就是等于m_bz.m_number,
而下面的代码访问m_bz.TempPoint[m_bz.m_number][0]时就可能访问到异常的值。
这是申请1000位而只用前50位,在访问第51位时就会有问题,当然要是一开始就只申请50位,
也不会出现release下start without debugging才出现的现象。
release下的调试
release时Start without debugging才会出现的错误,我们当时是把它输出到文本文件来查看变量的值。