最近在程序中处理数字运算时发现了float、decimal类型在处理上结果的不同
可以写个程序算一算:float a=2.2; float b=6.6; float c=b/a;
decimal a=2.2; decimal b=6.6; decimal c=b/a;
猜测一下运算结果,再执行一下看答案。
这个是个很基础的问题,只是自己掌握的比较欠缺,查阅一点简要的资料记于此:
x.xx .NET 默认是doble
如果想指定为单精度float型,必须在后面加上F/f
如果想指定为十进制decimal型,必须后面加上M/m
如果想指定为双精度double型,则最好后面加上D/d
使用浮点型(float,double)在理论上是不安全的会使精确降低,十进制(decimal)则是精确的安全的
在精确计算中使用浮点数是非常危险的,尽管C#在浮点数运算时采取了很多措施使得浮点数运算的结果看起来是非常正常的。
但实际上如果不清楚浮点数的特性而贸然使用的话,将造成非常严重的隐患。