【c# 浮点数除法精度问题】

JackWang2022

已于 2022-02-17 09:26:38 修改

阅读量1k

点赞数

文章标签： c# 开发语言后端

于 2022-02-16 10:00:16 首次发布

本文链接：https://blog.csdn.net/changdao6929/article/details/122957283

版权

本文探讨了C#编程中遇到的浮点数除法精度丢失问题，通过实例展示了0.59除以1000.0与乘以0.001得到的不同结果。文章指出，精度差异源于浮点数运算的内在性质，并建议开发者根据应用场景选择合适的运算方式以减小精度误差。同时，推荐了一篇深入解析浮点数精度问题的文章供进一步学习。

摘要由CSDN通过智能技术生成

c# 浮点数除法精度问题

在程序中处理单位转换时发现，浮点数除法会有精度损失，如下所示，除以 1000.0 和乘以 0.001有不同的结果：

Console.WriteLine(0.59 / 1000.0);	// 结果 0.0005899999999999999
Console.WriteLine(0.59 * 0.001);	// 结果 0.00059

但是具体的是使用乘法还是除法和具体的应用场景有关系，可以参见如下文章：
[https://www.soa.org/news-and-publications/newsletters/compact/2014/may/com-2014-iss51/losing-my-precision-tips-for-handling-tricky-floating-point-arithmetic/]