现象:SQLite利用ContentValues存入float类型数据时,1.1f在数据库中存入的会是1.100000023841858;
查看Android源码SQLiteConnection.class,整个过程是预编译SQL语句,然后绑定参数到SQL语句中,发现对Float类型的转换是直接强转Number类型,然后获取double值的,这样转换直接由四个字节转八个字节,补位会使得float数值精度改变,造成数据精度问题
case Cursor.FIELD_TYPE_FLOAT:
nativeBindDouble(mConnectionPtr, statementPtr, i + 1,
((Number)arg).doubleValue());
break;
float a = 1.1f;
double v1 = ((Number) a).doubleValue();
System.out.println(v1);//1.100000023841858
由于计算机二进制计数特质,以及浮点数表示数的计数方式,Float强转Double,Double转Float均会出现精度问题。