.Net 避免 float 转 double 丢失精度的办法

第一部分:float 转 double 丢失精度

类型精度位宽C# 后缀可以表示的数值范围.Net 类名
float7 位32bitF-3.4 × 10^38 ~ +3.4 × 10^38System.Single
double15~16 位64bitD±5.0 × 10^−324 ~ ±1.7 × 10^308System.Double
decimal28~29 位128bitM(-7.9 x 10^28 ~ +7.9 x 10^28) / (10^0 ~ 28)System.Decimal

3 种类型,相互间的转换有 6 种:

转换C# 代码精度结果
float 转 double(double) 10.45F丢失10.449999809265137D
float 转 decimal(decimal) 10.45F正常10.45M
double 转 float(float) 10.45D正常10.45F
double 转 decimal(decimal) 10.45D正常10.45M
decimal 转 float(float) 10.45M正常10.45F
decimal 转 double(double) 10.45M正常10.45D

可以看到只有 float 转 double 才会产生丢失精度的问题,但是 .Net 有个很神奇的表现是,如果把从 float 转 double 丢失精度的结果再转回 float,精度会被补回来,甚至中间用 decimal 多转了一次也会补回来:

C# 代码精度结果
(float) 10.449999809265137D修正10.45F
(float) (decimal) 10.449999809265137D修正10.45F

所以如果在 float double → float 或者 float  double → decimal → float 的过程中,如果中间过程只是临时状态(比如存储,传输)并不参与实际计算的话,那么并不需要手动修正精度。

如果对于转换后的精度有要求(比如显示,计算,转换为更高精度),那么可以手动对转换进行精度修正,解决方法有两个:

1. 用 decimal 搭桥:

public class SingleToDoubleHelper
{
    public static double SingleToDouble(this float numberF)
        => (double)(decimal)numberF;
}

2. 转字符串后解析:

public class SingleToDoubleHelper
{
    public static double SingleToDouble(this float numberF)
        => double.Parse(numberF.ToString());
}

 

第二部分:多位小数的浮点数互相转换时丢失精度

第一部分测试采用的数值比较正常,但是在带有一大串小数的浮点数互转的时候也会丢失精度:

转换C# 代码精度结果 / 期望结果
float 转 double(double) 10.4499941F丢失10.449994087219238D
10.4499941D
float 转 decimal(decimal) 10.4499941F丢失10.44999M
10.4499941M
double 转 float(float) 10.449999809265137D修正10.45F
-
double 转 decimal(decimal) 10.449999809265137D丢失10.4499998092651M
10.449999809265137M
decimal 转 float(float) 10.449999809265137448940651631M修正10.45F
-
decimal 转 double(double) 10.449999809265137448940651631M丢失10.449999809265139D
-

可以看到具有多位小数的浮点数在互转的时候多会发生精度丢失的问题。

在 double 和 decimal 转 float 的时候,结果都被给予了修正,至于这个修正是不是期望的结果要看具体应用场景。

而由低精度浮点数向高精度浮点数转换的时候,期望结果应该是可以不丢失精度的(高精度浮点数可以准确表示低精度浮点数描述的数值),但是结果却是发生了精度丢失。对于这种情况如果希望转换后保留完整精度的话,就只能采用 parse 字符串的方式来处理了,因为即使使用 decimal 搭桥也会丢失精度。

 

由此可见,用 decimal 搭桥完成 float 转 double 的方法仅适用于小数位数不多的情况,其中一个很常见的应用场景就是用 float 表示金额,但是因为某种需求要转换到 double 进行计算或显示。

转载于:https://my.oschina.net/qaqz111/blog/719704

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值