Decimal与Double的区别

今天在测试一个三个数相加和为100的情况;

前台输入三个值  例如:20,30,50。如果三个值都为整数

double.prase(20)+double.prase(30)+double.prase(50)=100;

decimal.parse(20)+decimal.parse(30)+decimal.parse(50)=100;

上面两个是没有误差问题的;

若前台输入的三个值 分别为39.43  28.02  32.55这三个值的话;

double.prase(39.43)+double.prase(28.02)+double.prase(32.55)=99.999。。。;无限循环

decimal.parse(39.43)+decimal.parse(28.02)+decimal.parse(32.55)=100;

好奇心驱使我去找了下答案:

计算机计算都是二进制数字,首先是将数字转化成二进制数(这样容易造成二进制有可能位数不够的情况)然后再计算,这样就造成了误差,Decimal类型的有效位数达到28位,而double类型的16位;对于一般的数据量不大的计算推荐用Decimal来;

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值