就Double、Decimal来说数据计算异常

场景:

客户提示发料时提示库存不足,可肉眼比对发料数量与库存数量没有一点问题。

但调度跟踪却发现出现“不可思议”的异常。

简单分析:

1.转Decimal再计算没问题。精度较高,存储方法也不一样,所以数据没有丢失。

2.Double时数据丢失。精度最高,转二进制后有数据溢出,导致数据丢失。

3.根据数值,C#默认为Double,数据丢失。

总结:

读了几个帖子,C#为了支持金融、货币计算引入Decimal类型。所以,在处理金融等数据时,以后还是直接用Decimal。

 

引用:

http://bbs.csdn.net/topics/70318335

http://www.cnblogs.com/jhxk/articles/1605755.html

http://www.cnblogs.com/haiyang1985/archive/2009/03/03/1402394.html

http://blog.csdn.net/lai123wei/article/details/7220276 读完这个帖子,才理解了我的问题出现的原因。

 

转载于:https://www.cnblogs.com/liuzhixian/p/3880138.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值