Arcgis小技巧【8】——字段数值过大造成结果不正确的解决方法

错误展示

在做村规入库的时候，发现一个问题。在给字段【用地面积】赋值的时候，直接用字段计算器等于【shape_area】，发现得出来的结果和【shape_area】不一致，如下图所示：

经检查，这种错误只会在数值比较大的情况下出现，并且错误也有规律可循，比如数值大于7位数，结果就会删除多余的小数，或者将多余的整数用【0】填充。

错误原因

其实错误的原因也比较明显，是字段类型不一致导致的。

【shape_area】是双精度字段。但是根据村规入库手册，【MJ】字段要求的字段类型是【FLOAT】。手册的原意应该是说浮点型，但是在ArcGIS里的浮点型有2种，【FLOAT】和【DOUBLE】，这里的【FLOAT】其实是单精度。正确的应该是要设置成【DOUBLE】。

FLOAT和DOUBLE类型的区别

Float为单精度，内存中占4个字节，有效数位是7位（因为有正负，所以不是8位），一旦数字大于7位，后面的就不精确。

Double为双精度，占8个字节，有效数位是16位，可以保证16位以内的是完全正确。

Double消耗的内存是Float的两倍，运算速度比Float慢得多，能用Float保证精度的尽量还是用Float，少用Double。但是在本案例中，准确是更重要的，所以应该选择Double。