Float浮点数与零比较的处理方法

转载：http://blog.sina.com.cn/s/blog_5fdcf5c901013vfd.html

在使用MSSQL数据库的时候，当某个字段被定义成 float 浮点数类型时，我们需要特殊处理。一个float浮点数是不能直接和零比较的，int可以直接和0比较，但float浮点数是有精度要求的。

在C/C++语言中，Float为单精度，内存中占4个字节，有效数位是7位，（本来是8位的，但要除去一个正负符号位），即有效数字是7位，当超过这个精度时，浮点数就无能为力了。C++ 下的判断方法如下：

“float型变量和“零值”比较的方法：
const float EPSINON = 0.000001;
if ((x >= - EPSINON) && (x <= EPSINON))
浮点型变量并不精确，其中EPSINON是允许的误差（即精度），所以不可将float变量用“==”或“!=”与数字比较，应该设法转化成“>=”或“<=”形式。如果写成if （x == 0.0），则是错误的。
因为1.0在计算机中可能存为0.999999或1.00001等，很难恰好是1.0
”
在高级语言ASP中应用float数时，同样需要注意这个问题。

比如，我们在数据库字段中定义 a, b 为 float， c 为 int ，a=2.00, b=0.01, c=200,
现在来计算 a-c*b 和 0 的大小时，我们这样判断：
if a-c*b <= 0 then
就是错误的。有人说，a-c*b 这个计算结果不正是0么？有什么错？但正如我们在上面说的，2.00这个值在计算机内存中可能真正的值是 2.000001， b 可能是 0.0099999，所以计算机计算后的值比0大！所以上面的条件不成立！

在一般的实际应用中，我们没有必要要求那么高的精度，小数点后2位即可。这个时候我们可以使用asp提供的格式化函数 FormatNumber ，比如 FormatNumber(x,2,-1,-2,-2) 这个值再和 0 比较 就不会出问题了。

ASP中的语法：
FormatNumber(Expression[,NumDigAfterDec[,IncLeadingDig[,UseParForNegNum[,GroupDig]]]])

expression 必选项。要被格式化的表达式

NumDigAfterDec 可选项。指示小数点右侧显示位数的数值。默认值为 -1(指示使用的是计算机的区域设置)。

IncLeadingDig 可选项。三态常数，指示是否显示小数值小数点前面的零
-2 = TristateUseDefault - 使用计算机区域设置中的设置。
-1 = TristateTrue - True
0 = TristateFalse - False

UseParForNegNum 可选项。三态常数，指示是否将负值置于括号中
-2 = TristateUseDefault - 使用计算机区域设置中的设置。
-1 = TristateTrue - True
0 = TristateFalse - False

GroupDig 可选项。三态常数，指示是否使用计算机区域设置中指定的数字分组符号将数字分组。
-2 = TristateUseDefault - 使用计算机区域设置中的设置。
-1 = TristateTrue - True
0 = TristateFalse - False

asp 实例

<%
a1=528.57
a2=328.57
a3=200.00

a4=(cdbl(a2)+cdbl(a3))

a1=Formatnumber(a1,2,-1)
a4=Formatnumber(a4,2,-1)

if cdbl(a1)-cdbl(a4)<>0  then
 response.write("fuck")
end if

%>
两数相加后别忘记format,相加之前format和相加之后format是不一样的~