C# float double精度损的的问题

最新推荐文章于 2024-08-05 23:40:36 发布

L_Vincent

最新推荐文章于 2024-08-05 23:40:36 发布

阅读量3.5k

点赞数

分类专栏： OOP 文章标签： float c# string c 算法 gcc

OOP 专栏收录该内容

8 篇文章 0 订阅

订阅专栏

在工作中我发现了一个C#浮点数的精度问题，以下的程序运行结果并未得到我预期的结果：

 
   01namespace  FloatTest 
 
   02{ 
 
   03    class Program 
 
   04    {  
 
   05        static void Main(string[] args) 
 
   06        { 
 
   07            double a = 0.0001; 
 
   08            float b = 0.1F; 
 
   09
 
   10            int c = (int)((a * 1000) / b); 
 
   11
 
   12            Console.WriteLine("c = {0}", c); 
 
   13
 
   14            Console.ReadLine(); 
 
   15        } 
 
   16    }  
 
   17}

我期望的结果是得到1，结果程序返回的结果为c = 0

这让我想到了可能是因为浮点数采用IEEE754的表示方法，在运算中b会转换成double，可能是在转换中算法的问题导致精度丢失，为了证实该问题，我做了下面的实验：

 
   01namespace  FloatTest 
 
   02{ 
 
   03    class Program 
 
   04    {  
 
   05        static void Main(string[] args) 
 
   06        { 
 
   07            double a = 0.0001; 
 
   08            float b = 0.1F; 
 
   09
 
   10            int c = (int)((a * 1000) / b); 
 
   11
 
   12            Console.WriteLine("a = {0}", a); 
 
   13            Console.WriteLine("b = {0}", Convert.ToDouble(b)); 
 
   14            Console.WriteLine("c = {0}", c); 
 
   15
 
   16            Console.ReadLine(); 
 
   17        } 
 
   18    }  
 
   19}

这次果然得到了意料中的结果：float在转成double的时候出现了精度的丢失问题

a = 0.0001
b = 0.100000001490116
c = 0

如果是在类型转换的时候导致的精度丢失，那我把b改为double应该可以解决这个问题：

 
   01namespace  FloatTest 
 
   02{ 
 
   03    class Program 
 
   04    {  
 
   05        static void Main(string[] args) 
 
   06        { 
 
   07            double a = 0.0001; 
 
   08            double b = 0.1; 
 
   09
 
   10            int c = (int)((a * 1000) / b); 
 
   11
 
   12            Console.WriteLine("a = {0}", a); 
 
   13            Console.WriteLine("b = {0}", Convert.ToDouble(b)); 
 
   14            Console.WriteLine("c = {0}", c); 
 
   15
 
   16            Console.ReadLine(); 
 
   17        } 
 
   18    }  
 
   19}