遇到问题:
double a = 2; double b = -1.1; a += b; Console.WriteLine(a);
控制应用台输出0.9,但是实际a中为0.89999999999999991
上网搜索了下相关概念,发现double是一个浮点数存在溢出的情况。下面介绍下查到的float,double,decimal三种数据类型的关系和区别
float 和 double类型
Name |
CTS Type |
Description |
Significant Figures |
Range (approximate) |
float |
System.Single |
32-bit single-precision floating point |