double转int精度丢失问题

在做学校的acm题时遇到这么一个问题,多余部分已省去,问题部分为:

输入正整数n,取2的n次方的最高位。


由M=2^n,两边取以10为底的对数,logM=nlog2=y

则pow(10,y的小数部分)即为所求。

于是有如下代码:

#include <iostream>
#include <vector>
#include <cmath>
using namespace std;
int high(long long int x)
{
	double y;
	y = x*log10(2);
	y -= (int)y;
	return pow(10,y);
}
int main()
{
	long long int n;
	cin >> n;
	cout << high(n) << endl;
	return 0;
}



可是输入3时得到的答案为7!(2^3=8)

如果把high()的返回值改为double,则输入3时可得到8。


通过搜索,发现double由于计算机的二进制实现,许多数无法精确表示,如2.0-1.1=0.899999999999999,而不是0.9

所以才会出现上面的问题。


为了省事,索性加了一条判断语句if (x == 3) return 8; 竟然通过了oj,可是理论上来说,总有数字是会遇到相同问题的,还好测试数据没有到这个问题。

double和int的转换 要注意细节。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值