浮点型精度，数组越界，debug和release下运行的区别，release下的调试

VS2005 英文版 SP1

XP SP3

 

程序中有个可能有个值被算得无穷大了，导致整个模型都超级变形了。后来猜测是树模型的半径值被算得太大。

而这种情况只有程序在release时直接运行跑起来才会有错，其它时候都不会有错，

这样在release下根本没法调试，变量的值都看不到，只能靠猜，并输出值到文本文件中来查看。

 

涉及到的问题：浮点型精度，数组越界，debug和release下运行的区别，

 

浮点型精度：

计算机的精度是有限的，可能某个浮点型的值是0.999998，在计算机中它指的可能就是1，

但如果我们在做判断时把它跟1来做比大小时，得到的条件判断却又是比1小，这样就会存在问题了。

 

在一些精度要求较高的地方，我们可以把这些计算出来的值做一个纠正，

例如： if (fabs(x-1.0f)<1e-6)  x = 1.0

 

数组越界：

当时的代码是float TempPoint[1000][2];，申请了一千位，实际只用了50位，而第51位由于没有初始化，

即使当时想初始化，也不知道初始化哪个值比较适合当时的情况，造成后面的代码访问到第51位的值，造成了严重的错误。

这样的错误在release直接运行时才会报错，而在调试时却不会有错，

可能是在调试时编译器给那些没初始化的值默认了一个值吧，这要看下debug和release时的区别。

最好是要用多少位就申请多少位的数组，或者可以这样float TempPoint[][2];，到具体要用时再直接赋值来确实要用多少位。

当时越界的代码：

 for (k = 0; k < m_bz.m_number - 1; k++)
 {
  if ( x >= m_bz.TempPoint[k][0] && x <= m_bz.TempPoint[k+1][0])
   break;
 }
 以上代码要是都没有break，k的值就是等于m_bz.m_number，

而下面的代码访问m_bz.TempPoint[m_bz.m_number][0]时就可能访问到异常的值。

这是申请1000位而只用前50位，在访问第51位时就会有问题，当然要是一开始就只申请50位，

也不会出现release下start without debugging才出现的现象。

 

release下的调试

release时Start without debugging才会出现的错误，我们当时是把它输出到文本文件来查看变量的值。