- 博客(1)
- 收藏
- 关注
原创 1.浮点数运算误差
1.浮点数运算误差 浮点数计算可能存在误差,如正确答案为1,实际存储值为0.999999999 int main(){ double a=0.99999; int b=a; cout<<b; return 0; }如上例,由于转换为整数后的值为“不超过a的最大整数”,结果b==0通过b=(a+0.5)可以实现四舍五入,此时在a取值(0.5,
2016-03-06 14:01:01 764
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人