C# float double精度损的的问题

在工作中我发现了一个C#浮点数的精度问题,以下的程序运行结果并未得到我预期的结果:

01namespace FloatTest
02{
03    class Program
04    {
05        static void Main(string[] args)
06        {
07            double a = 0.0001;
08            float b = 0.1F;
09
10            int c = (int)((a * 1000) / b);
11
12            Console.WriteLine("c = {0}", c);
13
14            Console.ReadLine();
15        }
16    }
17}

我期望的结果是得到1,结果程序返回的结果为c = 0

这让我想到了可能是因为浮点数采用IEEE754的表示方法,在运算中b会转换成double,可能是在转换中算法的问题导致精度丢失,为了证实该问题,我做了下面的实验:

01namespace FloatTest
02{
03    class Program
04    {
05        static void Main(string[] args)
06        {
07            double a = 0.0001;
08            float b = 0.1F;
09
10            int c = (int)((a * 1000) / b);
11
12            Console.WriteLine("a = {0}", a);
13            Console.WriteLine("b = {0}", Convert.ToDouble(b));
14            Console.WriteLine("c = {0}", c);
15
16            Console.ReadLine();
17        }
18    }
19}

这次果然得到了意料中的结果:float在转成double的时候出现了精度的丢失问题

a = 0.0001
b = 0.100000001490116
c = 0

如果是在类型转换的时候导致的精度丢失,那我把b改为double应该可以解决这个问题:

01namespace FloatTest
02{
03    class Program
04    {
05        static void Main(string[] args)
06        {
07            double a = 0.0001;
08            double b = 0.1;
09
10            int c = (int)((a * 1000) / b);
11
12            Console.WriteLine("a = {0}", a);
13            Console.WriteLine("b = {0}", Convert.ToDouble(b));
14            Console.WriteLine("c = {0}", c);
15
16            Console.ReadLine();
17        }
18    }
19}

这次却是得到我们期望的结果:

a = 0.0001
b = 0.1
c = 1

因此,在程序中,我们应该尽量的避免浮点数类型转换导致的精度丢失。

我在GCC上做了同样的实验,结果不管哪种方式得到的结果都是正确的,我只能说可能是double Convert.ToDouble(float)的实现的原因导致的。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值