C++中的浮点数运算的误差测试分析

C++中的浮点数运算的误差

 

 

　　项目中需要计算判定，采用的是float型，如： float a < yLing,

　　其中：a = 2.0， y则从1.0 + 0.2*n 

　　当n = 4时，条件成立了？？？？ Why /? , ， 实际上，需要在n = 5 成立

　　通过调试发现： yLing = 2.00002 , 而 a = 2.0

　　NM , float 误差这么大？？？？？

　　难怪在进行金融财务等数值运算时，请使用decimal 类型，不要使用float和double类型！因为decimal的精度最高！！！

 

---

 

 

　　推荐使用一些“现成”的函数库

 

　　http://www.oschina.net/project/tag/239/Mathematics-computing?sort=view&lang=21

如：

　　（1）数学表达式解析工具 muParser

　　

　　(2) 数学软件包 Octave

　　Octave 是一个类似matlab和Scilab的数学软件包，可以进行各种运算，编程。它还有丰富的C++接口可以让用户编程时调用。它绘图使用gnuplot。 Octave的使用也是基于字符终端模式的，当需要绘图时，将会调用Gnuplot进行数据绘图，并显示出来。 Octave是用C++编...

　　

　　(3)GAL ，计算几何算法库，是一个大型C + +库的几何数据结构和算法，如Delaunay三角网，网格生成，布尔运算的多边形，以及各种几何处理算法。 CGAL是用来在各个领域：计算机图形学，科学可视化，计算机辅助设计与建模，地理信息系统，分子生物学，医学影像学...

　　

　　其他。。。

　　C 科学计算库 GSL

 

 

---

 

1  测试用例　

（1）

　　如下C#代码：
　　float a = 0.65f;
　　float b = 0.6f;
　　float c = a - b;

　　此时c为多少？
　　0.05？错误！
　　此时c为0.0499999523！
　　为什么？
　　其根本原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数据。

（2）我们发现在0.1 此数转化的时候并不能得到一个准确的二进制数。离它最近的二进制小数是0.00011……，也就是十进制的0.099……，而计算机的存储空间是有限的， 所以我们得不到准确的二进制数,程序在执行时并不是按0.1计算，而是按0.099……计算，所以永远不会出现i==1的情况，也就出现了死循环的情况。

 #include   <stdio.h>    
 main()
 {
　　float a,b,c;
   a=0.99999999;
   b=1.0;
    if(a==b)
       printf("ddddd");//正确
   getch();
}

　　在执行中，a和b的值认为是相等的，输出： ddddd

　　我们知道将一个十进制数值转换为二进制数值，需要通过下面的计算方法：

　　【1】整数部分：连续用该整数除以2，取余数，然后商再除以2，直到商等于0为止。然后把得到的各个余数按相反的顺序排列。简称"除2取余法"。

　　【2】小数部分：十进制小数转换为二进制小数，采用"乘2取整，顺序排列"法。用2乘以十进制小数，将得到的整数部分取出，再用2乘余下的小数部分，然后再将积 的整数部分取出，如此进行，直到积中的小数部分为0或者达到所要求的精度为止。然后把取出的整数部分按顺序排列起来，即先取出的整数部分作为二进制小数的 高位，后取出的整数部分作为低位有效位。简称"乘2取整法"。

　　【3】含有小数的十进制数转换成二进制，整数、小数部分分别进行转换，然后相加。

　　下面我们来分析下：
　　我们知道将一个十进制数值转换为二进制数值，需要通过下面的计算方法：
　　（1）　　 整数部分：连续用该整数除以2，取余数，然后商再除以2，直到商等于0为止。然后把得到的各个余数按相反的顺序排列。简称"除2取余法"。
　　（2）　　小数部分：十进制小数转换为二进制小数，采用"乘2取整，顺序排列"法。用2乘以十进制小数，将得到的整数部分取出，再用2乘余下的小数部分，然后再将积 的整数部分取出，如此进行，直到积中的小数部分为0或者达到所要求的精度为止。然后把取出的整数部分按顺序排列起来，即先取出的整数部分作为二进制小数的 高位，后取出的整数部分作为低位有效位。简称"乘2取整法"。
　　（3）　　含有小数的十进制数转换成二进制，整数、小数部分分别进行转换，然后相加。

　　

 

　　

 

 

 

 

 

 

c++如何提高浮点数计算的精度

转载于:https://www.cnblogs.com/icmzn/p/5060956.html