今天在测试一个三个数相加和为100的情况;
前台输入三个值 例如:20,30,50。如果三个值都为整数
double.prase(20)+double.prase(30)+double.prase(50)=100;
decimal.parse(20)+decimal.parse(30)+decimal.parse(50)=100;
上面两个是没有误差问题的;
若前台输入的三个值 分别为39.43 28.02 32.55这三个值的话;
double.prase(39.43)+double.prase(28.02)+double.prase(32.55)=99.999。。。;无限循环
decimal.parse(39.43)+decimal.parse(28.02)+decimal.parse(32.55)=100;
好奇心驱使我去找了下答案:
计算机计算都是二进制数字,首先是将数字转化成二进制数(这样容易造成二进制有可能位数不够的情况)然后再计算,这样就造成了误差,Decimal类型的有效位数达到28位,而double类型的16位;对于一般的数据量不大的计算推荐用Decimal来;