要探究double和float的有效位数,前提知识点:cout.setf(ios_base::fixed,ios_base::floatfield);
因为c++通常会删除结尾的0,这条语句可以覆盖这种行为;
完整代码如下:
#include<iostream>
using namespace std;
int main()
{
cout.setf(ios_base::fixed,ios_base::floatfield);
float tub = 10.0 /3.0;
double mint = 10.0 / 3.0;
const float million = 1.0e6;
cout<<"tub = "<<tub;
cout<<" a million tubs = "<<million*tub;
cout<<"\nand ten million tubs=";
cout<<10* million *tub<<endl; //float最少有6位有效位
cout<<"mint = "<<mint<< " a million mint = ";
cout<<million *mint <<endl; //double最少有15位有效位数
return 0;
}
该代码运行效果图为:
float类型的tub在乘一百万之后出现了精度丢失的现象,而double类型的mint没有出现这种情况。
查阅资料后发现,float类型最多有效位数为6位,double类型为15位,所以出现了如图的精度丢失情况。