在做学校的acm题时遇到这么一个问题,多余部分已省去,问题部分为:
输入正整数n,取2的n次方的最高位。
由M=2^n,两边取以10为底的对数,logM=nlog2=y
则pow(10,y的小数部分)即为所求。
于是有如下代码:
#include <iostream>
#include <vector>
#include <cmath>
using namespace std;
int high(long long int x)
{
double y;
y = x*log10(2);
y -= (int)y;
return pow(10,y);
}
int main()
{
long long int n;
cin >> n;
cout << high(n) << endl;
return 0;
}
如果把high()的返回值改为double,则输入3时可得到8。
通过搜索,发现double由于计算机的二进制实现,许多数无法精确表示,如2.0-1.1=0.899999999999999,而不是0.9
所以才会出现上面的问题。
为了省事,索性加了一条判断语句if (x == 3) return 8; 竟然通过了oj,可是理论上来说,总有数字是会遇到相同问题的,还好测试数据没有到这个问题。
double和int的转换 要注意细节。