pow()函数结果强制转化为int造成误差的分析​

提示：文章

文章目录

• 前言
• 一、背景
• 二、
  • 2.1
  • 2.2
• 总结

前言

前期疑问：
本文目标：

---

一、背景

最近

二、pow使用的问题

在计算10^2时调用pow(10, 2)，再强制类型转换为int类型后输出：

printf("%d",(int)pow(10,2));
 得到的结果却是：99

这是因为 double pow(double x, double y) ，返回值是采用数值逼近的方法得到的double类型值。例如返回值为99.9999999时，强制类型转换发生截断，得到99。

仔细分析后发现：

因为pow函数导致从double返回值类型向int型转化的时候是直接把小数部分切掉，

导致原先double型的小数部分不再四舍五入，从而失去了整数部分的精度，最终结果差1

2.1 最简单的解决方案：+ 0.5

(int)(pow(10, 2) + 0.5) // 返回值为100

2.2 解决方案2：

自行编写 pow() 函数，以整型作为形参与返回值。

2.3 解决方案3：

运用四舍五入函数：

printf("%d",(int)round(pow(10,2)));

ps: 在vc6.0运行是正确的，在codeblock上就是错误的。应该是编译器的问题了。

三、

3.1

---

总结

未完待续