浮点计算中看起来相等，相减却是5.6843418860808E-14

最新推荐文章于 2021-08-10 23:10:25 发布

yushuir

最新推荐文章于 2021-08-10 23:10:25 发布

阅读量1.1k

点赞数

本文链接：https://blog.csdn.net/yushuir/article/details/83008122

版权

将数据库中浮点数据读出来加起来和数据库中的总和相比，看看上次有没有结算正确，代码如下

double money = ((Convert.ToDouble(ds.Tables[0].Rows[0]["Money"]) + Convert.ToDouble(ds.Tables[0].Rows[1]["Money"])) / 10 + Convert.ToDouble(ds.Tables[0].Rows[2]["Money"]));

Response.Write(money - Convert.ToDouble(dss.Tables[0].Rows[i]["User_Dzb_Sb"])+"****"+money + "," + Convert.ToDouble(dss.Tables[0].Rows[i]["User_Dzb_Sb"]) + "------不同-------<br />");
发现计算出来的money 值和原先在数据库中存在的User_Dzb_Sb始终不会相等，后来让他们相减，发现两者相差5.6843418860808E-14。肉眼可视他们相等啊，真是郁闷，后来改成以下代码就可以了。

double money = double.Parse(((Convert.ToDouble(ds.Tables[0].Rows[0]["Money"]) + Convert.ToDouble(ds.Tables[0].Rows[1]["Money"])) / 10 + Convert.ToDouble(ds.Tables[0].Rows[2]["Money"])).ToString());