通过分数形式避免浮点数在运算过程中的累计误差

最新推荐文章于 2023-10-30 00:30:00 发布

zhongheijituan

最新推荐文章于 2023-10-30 00:30:00 发布

阅读量1k

点赞数

分类专栏： c# C Sharp 文章标签：避免浮点数在运算过程中的累计误差

本文链接：https://blog.csdn.net/zhongheijituan/article/details/8632064

版权

c# C Sharp 专栏收录该内容

52 篇文章 0 订阅

订阅专栏

直接上代码，更复杂形式请自行修改：

 //有误差的浮点数累计运算
            double c = 0.1d;
            for (int i = 0; i < 10000; i++)
            {
                c += 0.1d;//通过循环运算，就会出现累计误差
            }
            Console.WriteLine(c);
            Console.WriteLine(0.1d + 0.1d * 10000);
            /*结果为：
            1000.10000000016
            1000.1
           请按任意键继续. . . */
            //下面，同样适用循环，用分数的形式来避免误差
            int a = 1, b = 10;//1/10=0.1
            for (int i = 0; i < 10000; i++)
            {
                a += 1;//0.1就是1/10；如果是加1/3，那就要先同分，把最小公分母找到，然后操作分子
            }
            Console.WriteLine((double)a/b);
            Console.WriteLine(0.1d + 0.1d * 10000);
            /*结果为：
            1000.1
            1000.1
           请按任意键继续. . . */