问题
今天给别人写了个简单的小程序,本来以为十分钟就能解决战斗,但是有一个地方让我产生了困惑。
程序需要让我输出一个保留两位的浮点数ans。但是我的输出是2.59,样例输出的是2.60。
我很奇怪,掏出计算器来算,ans的值是2.595,看来是我的程序出了问题。但奇怪的就在于,我的输出方式没有任何错误,而且我输出ans也是2.595,我输出2.595这个数也是2.60。
于是乎我打开了调试,当ans被计算出来的时候我立即就想起来了。
在double中 数据的存储并不是那么精确,2.595在double中是以2.5949999999存的,导致在进行四舍五入运算的时候编译器看到4直接把后面舍去了。
解决方案
个人认为可行的解决方法就是使用float 因为保留的位数也不大,float的精度完全可以胜任。