最近做项目用了两个编译器,由于是一种精度的算法计算,对计算的精度要求非常高,同时都用的float型,发现inter的结果比vs的结果好许多。但是不知道是什么原因,最后测试发现,是两个编译器的问题。 测试后发现:float型在v100编译器中,第6位是有效的,6位以后似乎是随机的,不是那么准确了,但是inter处理器中,float型也是按照double来计算的,所以最后结果好上许多。 强烈mark一下,作为经验,以后做计算的时候可以记住这个BUG的存在。 来自为知笔记(Wiz) 转载于:https://www.cnblogs.com/Dr-XLJ/p/4048642.html