我在开发时,遇到这样一种场景:
1.需要传递浮点数, 将浮点数转成int或者uint类型传输。(固定条件不能改)
2.例如传递65.533, 那么把这个数乘以1000,变成65533,然后再传输。
遇到的问题是,我用float类型保存65.533,结果他在内存中的保存形式为65.5329971, 乘以1000然后取整变成了65532!
解决方法:经过他人指导,采用round()函数,将变量四舍五入,然后在转成整数就可以了。
float tt = 65.533;
int ans = static_cast<int>(1000*tt); //65532
int ans2 = static_cast<int>(round(1000*tt)); //65533