【工作笔记0036】C#中Decimal小数取整容易犯错的坑

10 篇文章 0 订阅

这两天排查一个bug,数据库中同样的计算公式 和 C#代码中一毛一样的计算公式,最后结果为 Decimal 类型的小数,需求保留两位小数。但是结果是数据库中 和 代码中的结果总是对不上。

整理并简化了一下项目中代码计算公式:

decimal a = 3, b = 0, c = 0.035;

var s = Math.Round((a - b) * c, 2);

问题来了,项目数据库用的sqlserver,上面同样公式,数据库算出来是 0.11,而C# 代码中算出来是 0.10。

如果不保留小数,原始结果都知道是 0.105,那么为什么四舍五入后,结果为啥却不一样呢??

一开始,我也没有想明白,盯着代码愣了半天,就好像自己的考试一样,明明觉得得了100分,为啥最后还是99。

后来上了个厕所回来,抛开所有疑问,看看是不是这个 取整函数的问题。于是,发现 Math.Round 有很多个重载函数,于是 F12 进去看了看,发现有个参数 MidpointRounding 的枚举值,再 F12 进去看,发现有两个东西 ToEven、AwayFromZero。嗯?!。。应该是这里的问题,继续探索!

查了一些资料,微软官方对这两个枚举值的解释如下:

https://learn.microsoft.com/zh-cn/dotnet/api/system.midpointrounding?redirectedfrom=MSDN&view=net-7.0

公司项目比较老,上述截图是 C# 7.0 里面的,其中还多了几个枚举值,这里不说明,有兴趣自己百度吧!我就说跟我遇到问题最相关的这个枚举值 AwayFromZero

提到 AwayFromZero 这个,还需要首先了解一下“四舍五入”的理解:

(1)中国人的理解:1~4就舍去,5~9就进1

(2)外国人的理解:按照IEEE的标准,默认是 1~5就舍去,6~9就进1

好吧,问题就出现在我们理解的“四舍五入”的最中间的 5。AwayFromZero 的参数就是告知代码逻辑,遇到 5 的时候,进1处理。

回到问题本身,说明项目中的数据库是将 5 进1 了,那么代码中也改为 5进1的规则即可。于是将上述代码修改为这样,就解决了问题:

var s = Math.Round((a - b) * c, 2, MidpointRounding.AwayFromZero); // 结果为 0.11

反思,即便是一个自认为很小的问题,有可能会让你的见识焕然一新!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值