VC6 的小BUG —— fmodf()

以前写一个程序遇到一个小问题,但是一直没时间把这个问题整理出来。当时的测试程序也早已经不在了,只能重新写一个。

BUG来源于VC里的数学库。fmodf()函数可以对float型的变量进行取模运算,但是对有些值的有些运算却不能正确表达。可以参照以下这个程序。

 

#include <math.h>

#include <iostream>

using namespace std;

void main()

{

       float f;

       do

       {

              cout<<"---------------------------"<<endl;

              cin>>f;

              cout

              <<fmodf(f , 100.0f ) / 10.0f <<endl

              <<fmodf(f , 10.0f ) / 1.0f <<endl

              <<fmodf(f , 1.0f ) / 0.1f <<endl

              <<fmodf(f , 0.1f ) / 0.01f <<endl;

             

              cout<<"---------------------------"<<endl;

       }while(f>0);

}

这里首先定义一个float类型的变量,然后在输出提示行后输入变量。在对变量进行分别取模运算后除相应的数字来突出最高位,更加明了显示结果。

比如输入52.53,会分别突出各自的十位,个位,十分位,百分位。注意测试中最后一位的2.9998其实近似为3,所以结果是正确的。

如果输入更多的位的浮点数,结果也是正确的。在实际应用中可以对其舍入来完成需求。

但是在输入一个小数部分都为0值的时候,不论是输入10,还是输入10.00,或者10.0000,都会产生错误。在取十分位的时候本应该得到近似0值,这里却得到近似10值。这里就是编译器的BUG所在。事实上,如果对f再进行 0.01f 的模运算,结果也是正确的。所以编译器对fmodf()函数的对 0.1f 的取模运算有错误。

解决方法也很简单。因为浮点数的要求精度也许并不高,这样可以使用在对被取模数加小数的方法使其小数部分不为0值。所以应该加上以下一条语句:

f += 0.000001;

如果加更小的数,超出浮点数范围,仍然会出错。

以下是一些测试结果。

---------------------------

52.53

5.253

2.53

5.29999

2.9998

---------------------------

---------------------------

52.0265

5.20265

2.0265

0.265007

2.64999

---------------------------

---------------------------

10

1

0

0

9.99999

---------------------------

---------------------------

10.00

1

0

0

9.99999

---------------------------

---------------------------

10.00001

1

9.53674e-006

9.53674e-005

0.000938773

---------------------------

本程序在 VC 环境下和 DEV C++ 环境下都测试过,都有同样的错误。没有 TC 环境,没有测试。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值